Verstärkung im Bereich KI: Willkommen bei CODE, Prof. Ntoutsi!

17 August 2022

Zum 1. August 2022 hat Prof. Dr. Eirini Ntoutsi den Ruf auf die W3-Professur für Open Source Intelligence an der Fakultät für Informatik an der Universität der Bundeswehr München angenommen. Im Interview spricht sie über ihre Forschung, ihren bisherigen Karriereweg und die Pläne für das neue Labor AIML (Artificial Intelligence and Machine Learning) am FI CODE.

Frau Prof. Ntoutsi, woran werden Sie bei CODE forschen?

Ich entwerfe intelligente Algorithmen, die aus Daten lernen, indem sie kontinuierlich der kumulativen Natur des menschlichen Lernens folgen und gleichzeitig sicherstellen, dass das Gelernte einen positiven Einfluss auf die Gesellschaft hat. Meine Forschung konzentriert sich derzeit auf drei Hauptbereiche: 1) adaptives Lernen, das heißt Lernen aus sich verändernden Daten, z. B. Konzeptabweichungen, Ungleichverteilung; 2) Responsible AI, also die Entwicklung von KI-Systemen, die einen positiven Einfluss auf die Gesellschaft haben, wobei ich mich insbesondere auf faires Lernen sowie transparente und erklärbare KI konzentriere, und 3) Generative AI, das heißt die Verwendung von Maschinen zur Generierung neuer plausibler Daten und Artefakte.

Warum haben Sie sich für das FI CODE und die UniBw M entschieden?

Das FI CODE ist dabei, sich zu einem der größten interdisziplinären Forschungsinstitute für Cybersicherheit und Smart Data zu entwickeln. Es bringt eine Vielzahl von Fachleuten zusammen, die an vielfältigen Themen arbeiten, von Netzwerk- und Softwaresicherheit bis hin zu Datenschutz und Desinformation. Methoden der Künstlichen Intelligenz und des Maschinellen Lernens werden heutzutage in diesen Bereichen häufig eingesetzt, etwa für die Überwachung von Netzen, die Erkennung von Angriffen usw. Daher glaube ich, dass es hervorragende Möglichkeiten zur Entwicklung von AIML-Methoden für diese komplexen Gebiete gibt, die durch Volumen, Geschwindigkeit, Vielfalt und Richtigkeit der Daten gekennzeichnet sind.

Allerdings sind ML-Modelle auch anfällig für Angriffe, zum Beispiel durch Trainingsinstanzen; daher ist die Entwicklung widerstandsfähiger Methoden äußerst wichtig. Die Arbeit an resilienter KI ist ein Weg, den ich verfolgen möchte, und ich bin zuversichtlich, dass ich an der UniBw M und bei CODE kompetente Mitarbeitende mit sich ergänzenden Kompetenzen finden werde. Ich hoffe, dass ich mit meiner Expertise in AIML auch zur Weiterentwicklung von CODE und der UniBw M beitragen kann.

KI ist eine leistungsstarke Technologie, die helfen kann, die größten Herausforderungen auf der Welt zu lösen, aber auch Risiken für Einzelpersonen und Gruppen mit sich bringt. Aus diesem Grund sind wir dafür verantwortlich, die Risiken und Auswirkungen zu verstehen und abzumildern. Ich hoffe, dass ich in Forschung und Lehre einen Beitrag zu einem verantwortungsvollen Umgang mit KI leisten kann.

"KI ist eine leistungsstarke Technologie, die helfen kann, die größten Herausforderungen auf der Welt zu lösen, aber auch Risiken für Einzelpersonen und Gruppen mit sich bringt. Aus diesem Grund sind wir dafür verantwortlich, die Risiken und Auswirkungen zu verstehen und abzumildern."

Zu guter Letzt sind München und Bayern hervorragende Standorte für die KI-Forschung in Deutschland und der ganzen Welt, mit Spitzenuniversitäten, einer starken Tech-Industrie, vorhandenem Kapital und einer attraktiven Stadt.

Wo haben Sie bisher geforscht und wie sind Sie zu Ihrem Fachgebiet gekommen?

Während meines Grundstudiums an der Fakultät für Computertechnik und Informatik (CEID) an der Universität Patras (Griechenland) begann ich mich für Künstliche Intelligenz zu interessieren. In meiner Diplomarbeit habe ich einen Computer so trainiert, dass er mit Hilfe von Reinforcement Learning (RL) und neuronalen Netzen (NNs) lernt, wie man ein neues Strategiespiel spielt, und dabei Erfahrungen mit selbst gespielten Spielen und Spielen zwischen Mensch und Computer gesammelt. Davor war ich studentische Hilfskraft am Computer Technology Institute (RACTI) in Patras, wo ich einen Entscheidungsbaum-Induktionsalgorithmus für mengenwertige Attribute erweiterte. Mein Betreuer, Prof. Dr. Kalles, wies mich auf das Buch „Machine Learning“ von Tom Mitchell hin, das immer noch zu meinen Lieblingsbüchern gehört. Dieses Thema habe ich während meines Masterstudiums am selben Fachbereich weiter vertieft, wobei ich mich auf Textklassifikation konzentrierte.

Während meines Promotionsstudiums an der Universität Piräus (Griechenland) konzentrierte ich mich auf Ähnlichkeitsmaße zwischen verschiedenen Modellen des maschinellen Lernens, von Entscheidungsbäumen und Frequent-Item-Sets bis hin zu Clustern und Clusterungen, sowie darauf, wie die Ähnlichkeit von Modellen mit der Ähnlichkeit von Datensätzen zusammenhängt. Solche Ähnlichkeitsmaße sind nützlich, um Modelle zu vergleichen, die aus verschiedenen Datensätzen extrahiert wurden, etwa aus verschiedenen Filialen einer Bank oder unter verschiedenen Parametereinstellungen; für das Meta-Lernen, die Überwachung von Modellveränderungen bei sich entwickelnden Daten und Datenströmen, und in weiteren Bereichen.

2010 wechselte ich als Postdoc-Stipendiatin der Alexander von Humboldt-Stiftung in die Arbeitsgruppe von Prof. Hans-Peter Kriegel am Institut für Informatik der Ludwig-Maximilians-Universität München, wo ich mich mit hochdimensionalen Datenströmen und Modellstabilität beschäftigte.

2016 ging ich dann als außerplanmäßige Professorin für Intelligente Systeme an der Fakultät für Elektrotechnik und Informatik an die Leibniz Universität Hannover und wurde dem Forschungszentrum L3S angegliedert.

Im Jahr 2021 wechselte ich als ordentliche Professorin für Künstliche Intelligenz an den Fachbereich Mathematik und Informatik der Freien Universität Berlin (FUB), eine Position, die ich bis zu meinem Wechsel an die UniBw M und zum FI CODE innehatte.

Was ist Ihre Vision für den Aufbau Ihrer neuen Forschungsgruppe am FI CODE?

Mein Hauptziel für das AIML-Labor ist es, Spitzenforschung auf dem Gebiet der Künstlichen Intelligenz und des Maschinellen Lernens zu betreiben, die sich an realen Herausforderungen orientiert und die sozialen Auswirkungen der Technologie berücksichtigt.

"Mein Hauptziel für das AIML-Labor ist es, Spitzenforschung auf dem Gebiet der Künstlichen Intelligenz und des Maschinellen Lernens zu betreiben, die sich an realen Herausforderungen orientiert und die sozialen Auswirkungen der Technologie berücksichtigt."

Ein weiteres Ziel des Labors besteht darin, Studierende und junge Forschende mit den notwendigen Fähigkeiten auszustatten, um vertrauenswürdige und nachhaltige KI-Technologie zu entwickeln.

Was die Forschungsaktivitäten angeht, wird mein Team weiterhin an laufenden Forschungsprojekten wie dem VW BIAS- und dem ITN NoBIAS-Projekt arbeiten, die sich auf die Berücksichtigung ethischer und rechtlicher Überlegungen bei der Entwicklung von KI-Methoden konzentrieren. Ebenso wird die Gruppe sich weiterhin am SFB1463 beteiligen, wo es um die Entwicklung von maschinellen Lernmodellen für die Bewertung von Windturbinendesigns und die Generierung neuer Designs mit KI geht. Gleiches gilt für das DFG-Projekt Hephaestus, in dem wir uns mit dem Entwurf von ML-Modellen für die adaptive Prozessplanung beschäftigen.

An der UniBw M wird AIML zwei neue EU-Horizont 2020-Projekte initiieren, STELAR und MAMMOTH. Das STELAR-Projekt wird ein innovatives Knowledge Lake Management System aufbauen, um einen ganzheitlichen Ansatz für FAIR- und KI-fähige Daten zu unterstützen und zu erleichtern. Die Anwendung erfolgt im Bereich der Landwirtschaft. Unser Team wird sich dabei auf Tools und Techniken für KI-fähige Daten konzentrieren, insbesondere auf Datenannotation, Dateninterventionen und die Erzeugung synthetischer Daten. Im Rahmen des Projekts MAMMOTH werden Werkzeuge und Techniken für die Erkennung und Abschwächung von Diskriminierung in komplexen Daten, einschließlich Mehrfachdiskriminierungsszenarien sowie Netzwerk- und multimodale Daten, konzipiert und entwickelt. Unser Team wird sich hier mit fairnessbewusstem Lernen unter Berücksichtigung mehrerer schützenswerter Merkmale wie Geschlecht, Ethnie und Alter befassen.

Insgesamt sehe ich vielfältige Möglichkeiten zur Zusammenarbeit in Forschungsprojekten innerhalb von CODE und der UniBw M sowie mit anderen Instituten aus dem Münchner Raum, aber auch aus dem In- und Ausland. Beispiele sind xAI für Modellinspektion und Debugging, Echtzeit-Netzwerküberwachung oder resilientes ML. Ich bin offen für neue Ideen und freue mich immer über die Zusammenarbeit mit Expertinnen und Experten aus anderen Disziplinen. Bisher hatte ich das große Vergnügen, mit Fachleuten aus verschiedenen Bereichen zusammenzuarbeiten, von Bioarchäologie und Bauingenieurwesen bis hin zu Philosophie und Recht.

Derzeit bin ich auf der Suche nach mehreren DoktorandInnen oder Postdocs in den Bereichen Multi-fairness-aware-learning, xAI, Online-fairness-aware-learning und Adaptive Learning, die sich meiner Forschungsgruppe anschließen möchten.

Worauf freuen Sie sich am meisten?

Ich freue mich darauf, ein nettes neues Team aufzubauen und an vielen spannenden Themen zu arbeiten. Glücklicherweise werden einige meiner Studierenden mich auf dieser Reise entweder persönlich oder aus der Ferne von Berlin und Hannover aus begleiten. Ebenso bin ich gespannt auf die neuen Teammitglieder.

Darüber hinaus möchte ich mich mit alten und neuen Kollegen aus dem Münchner Raum austauschen und Teil der pulsierenden KI-Landschaft in München sein. Und selbstverständlich freue ich mich auf das Münchner Lebensgefühl: Obwohl ich bereits seit drei Jahren hier wohne, konnte ich durch das Pendeln und die Pandemie die Stadt und ihre wunderbare Umgebung noch nicht voll genießen.

Prof. Dr. Eirini Ntoutsi ist seit dem 1. August 2022 Inhaberin der Professur für Open Source Intelligence am FI CODE. Ihre Forschungsschwerpunkte sind adaptives Lernen, Responsible AI und Generative AI.

For the english version of the interview, please click >>here