CODE-Studienpreis für Hannes Ludwig

15 Dezember 2023

Das Forschungsinstitut Cyber Defence (FI CODE) zeichnet gemeinsam mit der Firma Giesecke+Devrient GmbH die Abschlussarbeit von Herrn Hannes Jost Ludwig mit dem CODE-Studienpreis 2023 aus. In seiner Masterarbeit befasst sich der Cyber-Sicherheit Student mit Möglichkeiten der Manipulation von Eingabedaten für Künstlicher Intelligenz.

Die zunehmende Integration von Künstlicher Intelligenz (KI) in alltägliche Anwendungen und deren kontinuierliche Weiterentwicklung prägen das Bild der modernen Informationstechnologie (IT). Diese Entwicklung eröffnet der Gesellschaft einerseits vielfältige Chancen, stellt sie andererseits aber auch vor eine Reihe neuer Herausforderungen, insbesondere im Bereich der IT-Sicherheit. Gerade aufgrund der weiterwachsenden Abhängigkeit von KI müssen diese neuen Sicherheitsbedenken adressiert werden.

In seiner Masterarbeit „An Approach to Creating Adversarial Samples“ nimmt sich Herr Ludwig diesen Herausforderungen an, indem er zwei im Sicherheitskontext wichtige Forschungsfelder untersucht: Adversarial Samples und Explainable AI. Bei Adversarial Samples handelt es sich um manipulierte Eingaben, die darauf abzielen, neuronale Netze zu stören und Fehlklassifizierungen hervorzurufen. Adversarial Samples stellen daher ein potenzielles Sicherheitsproblem in vielen KI-Anwendungen dar. Explainable AI strebt die Erklärbarkeit von Modellen an, d. h. Entscheidungsfindungsprozesse KI-basierter Systeme nachvollziehbar und transparent darzustellen.

Die Abschlussarbeit untersucht, wie Explainable AI zur Generierung von Adversarial Samples beitragen kann. Dabei werden sowohl theoretische Ansätze als auch praktische Anwendungen beleuchtet, einschließlich der Integration von Techniken aus dem Bereich der Bildoptimierung. Dabei werden Parallelen zwischen diesem Bereich und der Erzeugung von Adversarial Samples gezogen und liefern neue Erkenntnisse für die effektivere Generierung. Darüber hinaus wird untersucht, inwieweit durch die Generierung von Adversarial Samples neue Angriffsmethoden auf KI-Systeme eingeführt werden können.

Herr Ludwig leistet mit seiner Masterarbeit einen entscheidenden Beitrag zur aktuellen Diskussion um die Sicherheit und Transparenz von KI-Systemen. Die Arbeit ist dabei an der Schnittstelle der beiden Bereiche Smart Data und Cyber Defence angesiedelt und zeichnet sich neben der hohen Aktualität durch einen hohen Schwierigkeitsgrad und eine kritische Reflexion aus. Durch die Entwicklung neuer Methoden zur Generierung manipulativer Eingaben fördert die Arbeit die Forderung nach Robustheit und Zuverlässigkeit neuronaler Netze. Gleichzeitig wird durch die Einbeziehung der Erklärbarkeit ein tieferes Verständnis für die Funktionsweise von KI-Technologien gefördert. Seine Arbeit zeigt und verdeutlicht, dass ungelöste Sicherheitsprobleme existieren und sein Ansatz prinzipiell sehr breit anwendbar ist. Herr Ludwig schafft damit die Grundlage für weitergehende Untersuchungen des Einsatzes von Explainable AI im Forschungsbereich der Adversarial Samples.

Der CODE-Studienpreis wurde im Rahmen der großen Masterfeier am 9. Dezember 2023 auf dem Campus der Universität der Bundeswehr München durch Vizepräsident Prof. Geralt Siebert im Beisein des Leitenden Direktors des FI CODE Prof. Wolfgang Hommel sowie der Technischen Direktorin des FI CODE Prof. Michaela Geierhos und Dr. Michael Tagscherer von Giesecke+Devrient verliehen.

^{Bildunterschrift: Verleihung des CODE-Studienpreises 2023: Prof. Geralt Siebert, Prof. Wolfgang Hommel, Preisträger Hannes Ludwig, Prof. Michaela Geierhos, Dr. Michael Tagscherer (v.l.n.r.) (Foto: © Universität der Bundeswehr / Siebold)}