Was bedeutet Robustheit bei KI-Systemen?

Was Angriffe konkret machen

Adversarial Attacks fügen einer Eingabe minimale Störungen hinzu, die für Menschen unsichtbar sind, die KI aber komplett täuschen. Bei einem Stoppschild kann eine bestimmte Aufkleber-Anordnung dazu führen, dass das Modell „Geschwindigkeitsbegrenzung" oder etwas völlig Sinnloses erkennt. Solche Angriffe wurden in der Forschung gezielt entwickelt, um die Schwächen zu zeigen.

Warum das so gefährlich ist

Im autonomen Fahren entscheidet die Bilderkennung in Millisekunden. Ein manipuliertes Schild kann zu einer falschen Reaktion führen. In der medizinischen Diagnostik kann ein subtiler Bildfehler dazu führen, dass ein Tumor übersehen wird. Robustheit ist deshalb nicht ein nettes Extra, sondern Sicherheits-Pflicht.

Auch unabsichtliche Fehler

Robustheits-Probleme entstehen nicht nur durch böswillige Angriffe. Auch zufällige Daten-Verzerrungen können die KI in die Irre führen. Eine Kamera mit Schmutz auf der Linse liefert unscharfe Bilder, eine KI reagiert dann anders als erwartet. Robustheit gegen Stör-Eingaben ist deshalb Teil jedes seriösen KI-Tests.

Wie du Robustheit prüfst

Stresstests mit variierten Eingaben, Adversarial Training (die KI gezielt mit Stör-Beispielen trainieren) und kontinuierliches Monitoring im Betrieb. Hochrisiko-Anwendungen brauchen formale Robustheits-Nachweise, oft im Rahmen der EU-AI-Act-Konformitäts-Prüfung.