Dr. Arndt von Twickel, Technical Officer, Bundesamt für Sicherheit in der Informationstechnik (BSI)

Abstract:

Als Schlüsseltechnologie eröffnet Künstliche Intelligenz (KI) einerseits neue Chancen und birgt andererseits qualitativ neue Risiken und Vulnerabilitäten. Zusammen mit der rasanten Verbreitung dieser Technologie wächst der Regulierungsbedarf. Die Operationalisierung von KI-Regulierungsvorhaben, wie z.B. dem EU AI Act, erfordert ausgereifte Prüfmethoden und -werkzeuge, die es erlauben, Garantien im Hinblick auf die Vertrauenswürdigkeit von KI-Systemen abzugeben. Entsprechende Methoden und Werkzeuge sind in vielen Fällen Gegenstand der aktuellen Forschung und noch nicht praktisch einsetzbar. In diesem Vortrag wird der gegenwärtige Stand der Prüfbarkeit von KI-Systemen, insbesondere im Kontext von neuronalen Netzen und IT-Sicherheit, zusammen mit wesentlichen Herausforderungen anhand von ausgewählten Anwendungen vorgestellt.

Zur Person:

Dr. Arndt von Twickel ist technischer Referent beim Bundesamt für Sicherheit in der Informationstechnik (BSI) in Bonn. In der Abteilung DI (“Cyber Sicherheit in der Digitalisierung und für elektronische Identitäten”) hat er als Projektmanager Verantwortlichkeiten in den Bereichen Biometrie und Automotive, leitet die Arbeitgruppe "KI in Digitalisierungsanwendungen" und ist Kontaktperson für die nationale Cybersicherheitsstrategie. Zudem repräsentiert er das BSI in der gemeinsamen BSI-TÜV KI Arbeitsgruppe und beteiligt sich aktiv an der DIN Normungsroadmap KI. Vor seiner Zeit am BSI hat er an verschiedenen europäischen Forschungseinrichtungen in den Bereichen Neurobiologie, Neuroinformatik und Robotik gearbeitet und Lehraufgaben übernommen. Er ist erreichbar unter arndt.twickel@bsi.bund.de.