CODE-Kolloquium mit Prof. Wunder

20 Dezember 2023

Beim letzten Termin des Jahres sprach Prof. Gerhard Wunder von der FU Berlin im Rahmen des CODE-Kolloquiums über die Nachvollziehbarkeit von KI-Entscheidungen. In der Regel sind umfassende Zugriffsrechte auf das KI-System notwendig, um deren Entscheidungen für die User erklärbar zu machen. In seinem Vortrag stellte Prof. Wunder eine Methode vor, wie dies auch ohne vollen Systemzugriff möglich ist.

Um die Entscheidungsfindung von Deep Learning Modellen für die Anwenderinnen und Anwender transparent und nachvollziehbar zu machen, basieren herkömmliche Ansätze bisher auf der Analyse des Informationsflusses während des Inferenzprozesses (Konklusion). Diese Ansätze setzen jedoch umfassende Zugriffsrechte auf das zu analysierende System voraus. In der Praxis ist diese Annahme eines „White-Box-Systems“ allerdings häufig unrealistisch. Oft existieren aufgrund von Sicherheitsbedenken umfassende Zugriffsbeschränkungen, die eine Analyse des Systems erschweren. Prof. Wunder stellte in seinem Kolloquiums-Vortrag „On Gradient-like Explanation under a Black-box Setting: When Black-box Explanations Become as Good as White-box“ mit GEEX (gradient-estimation-based explanation) eine neue Methode vor, die eine Analyse und Erklärbarkeit von KI-Entscheidungen auch unter Black-Box-Bedingungen ermöglicht.

Nach dem rund 45-minütigen Vortrag von Prof. Wunder folgte eine Frage- und Diskussionsrunde mit den Teilnehmerinnen und Teilnehmern des CODE-Kolloquiums. Die Veranstaltung endete mit einem kleinen Get-together bei Snacks und Getränken. Das nächste CODE-Kolloquium ist für den 21.02.2024 angesetzt, bei dem wir Prof. Dominique Schröder von der Friedrich-Alexander-Universität Erlangen-Nürnberg begrüßen werden.

Infos und Anmeldung zum CODE-Kolloquium: 
https://www.unibw.de/code/events/kolloquium

^{Foto: FI CODE}