Das Promotionsprojekt untersucht die Robustheit ML-basierter Objekterkennungsalgorithmen, insbesondere für LiDAR-Daten im Kontext des hochautomatisierten Fahrens. Da sicherheitskritische Systeme zuverlässig durch unbekanntes Umfeld navigieren müssen, ist die zuverlässige Erkennung von Objekten in Sensordaten essenziell. Sogenannte Adversarial Examples können Klassifikatoren und Objekterkenner jedoch durch minimale, für den Menschen kaum wahrnehmbare Veränderungen fehlleiten und so zu falschen Entscheidungen führen. Das Projekt zielt darauf ab, solche Schwachstellen zu identifizieren und Methoden zur Verbesserung der Robustheit zu entwickeln.
Methodisch werden Adversarial Examples genutzt, um die Robustheit zu bewerten: Ein Objekterkenner gilt als robust, wenn er trotz Störungen alle Objekte weiterhin erkennt. Aufbauend auf bestehenden Arbeiten wird untersucht, inwiefern sich 2D- und 3D-Angriffe unterscheiden und ob Adversarial Training die Robustheit steigern kann. Ein besonderer Fokus liegt auf der Effektivität von Angriffen, bei denen bereits wenige veränderte Punkte hohe Fehlerraten verursachen.
Ergänzend kommen Methoden der erklärbaren KI (XAI) zum Einsatz, etwa modellagnostische Salienzkarten, die durch Maskierung der Eingangsdaten erstellt werden. Diese ermöglichen es, nachvollziehen, auf welche Strukturen ein Algorithmus achtet. Dadurch können Schwachstellen gezielt identifiziert und behoben werden. XAI erhöht zugleich die Transparenz und die Nutzerakzeptanz neuer Technologien.
Das Vorhaben wird von drei Forschungsfragen geleitet: die Robustheitsanalyse mittels modellagnostischer XAI-Methoden, die kombinierte Anwendung von Adversarial Attacks und XAI zur Aufdeckung von Stärken und Schwächen sowie die Entwicklung konkreter Methoden zur Robustheitssteigerung gegenüber zufälligen und gezielten Veränderungen.
