Synthetische Daten­-Generierung und -Detektion

Aktuelle Fortschritte in der künstlichen Intelligenz ermöglichen es, täuschend echtes Bild-, Video- und Audiomaterial zu erzeugen. Die Anwendungsmöglichkeiten sind vielfältig und reichen z. B. von vollständig computergenerierten Fotos, über eine Bildbearbeitung, um Nachtaufnahmen wie am Tag aufgenommene Bilder aussehen zu lassen, bis hin zur Imitation der Stimme anderer Personen.

In sogenannten Deepfakes (englisch "tiefe Täuschungen") wird das Gesicht einer Person auf ein anderes projiziert, um Videos von nie stattgefundenen Szenen zu erstellen. Zwar werden diese Werkzeuge häufig für Unterhaltungszwecke verwendet, bieten aber auch erhebliches Missbrauchspotential. In Zeiten der sozialen Medien können sich Falschinformationen rasend schnell unkontrolliert verbreiten, sodass die Gefahren von täuschend echten Deepfakes von politischer Manipulation, Erpressung, Verleumdung bis zu verschiedenen Betrugsmaschen reichen.

Um diesen Gefahren vorzubeugen, beschäftigt sich das Forschungsprojekt mit der Detektion von künstlich erstelltem bzw. manipuliertem Audio-, Bild- und Videomaterial. Für die Entwicklung robuster Detektionsalgorithmen ist einer der gängigsten Ansätze die Kombination aus zwei Komponenten. Gemäß dem Adversarial Ansatz treten hierbei zwei Komponenten gegeneinander an: Ein Generator erzeugt künstliche Daten, während ein Klassifikator versucht, diese von echten Daten zu unterscheiden. Im Laufe dieses Trainingsprozesses nehmen die Ergebnisse sowohl des Generators als auch des Klassifikators stetig an Qualität zu. Ziel ist es, synthetische DSGVO konforme Testdatensätze zu erzeugen, um mit deren Hilfe existierende Detektionsverfahren zu verbessern.

Der primäre Fokus des Projektes liegt auf der Entwicklung eines Demonstrators zur Detektion manipulierter Bilder und Videos. Im Zuge dessen sollen bestehende State-of-the-Art-Ansätze nicht nur angewendet, sondern auch optimiert werden.