Was bedeutet menschliche Aufsicht nach EU AI Act?

Art. 14: Die vier Funktionen

• 1. Output verstehen: Die Aufsichtspersonen müssen die Outputs des Systems richtig interpretieren können.

• 2. Grenzen kennen: Sie müssen wissen, wo das System unzuverlässig wird (Edge Cases, Unsicherheit).

• 3. Automation-Bias erkennen: Das Phänomen, dass Menschen KI-Outputs unkritisch akzeptieren, muss explizit thematisiert werden.

• 4. Übersteuern oder stoppen: Es muss einen klaren, schnellen Weg geben, um das System zu deaktivieren oder einzelne Outputs zu überschreiben.

Nicht „Human-on-the-Loop“ reicht

Der EU AI Act verlangt nicht bloß Beobachter, sondern echte Eingriffsmöglichkeit. Wer im 100. Fall „akzeptieren“ klickt, ohne den Output ernsthaft zu prüfen, erfüllt Art. 14 nicht.

Praktische Umsetzung

• UI-Design: Klare Anzeige der Unsicherheit (Confidence Score).

• Schulung der Aufsichtsperson auf System-Limits und Automation-Bias.

• Stichprobenprüfung: regelmäßige Kontrolle einzelner Outputs.

• Override-Button: leicht erreichbar, ohne tiefes Menü.

• Logs: jeder Override wird dokumentiert für Audit.

Besondere Vorsicht: Biometrie

Bei biometrischer Identifikation muss die Aufsicht von zwei unabhängigen, qualifizierten Personen erfolgen, bevor eine Aktion auf Basis der Identifikation getroffen wird (Art. 14 Abs. 5).