REMAX: Stringente Evalueringsmetoder til AI Forklarlighed

Det er meget svært at forklare beslutninger fra komplekse AI modeller, såsom neurale netværk. Dette er en nøgleudfordring for etisk ansvarlig AI. Dataloger udvikler tekniske løsninger på denne udfordring indenfor feltet Explainable AI (Forklarlig AI). Men der mangler p.t. stringente metoder til at evaluere AI systemers forklarlighed. Dataloger bruger data-drevne metrikker. De giver nogen indsigt til udviklere, men det er uklart om sådanne metrikker faktisk indfanger de etisk relevante egenskaber. Omvendt bruger AI etik normative kriterier. De er baseret på principielle, etiske analyser, men er for abstrakte og giver ringe praktisk vejledning. REMAX vil slå bro over denne kløft ved at etablere et tæt samarbejde mellem dataloger og AI etikere. Vi vil studerende hvordan principielle normative kriterier kan oversættes til nye metrikker for AI forklarlighed, samt hvordan tættere forbindelse til udviklingspraksis indenfor AI kan gøre disse normative kriterier mere praktisk anvendelige.