Wann muss ich beim KI-Projekt den EU AI Act prüfen?

Die vier Risikoklassen im Überblick

Verboten sind Anwendungen wie Social Scoring durch Behörden oder manipulative Manipulation von Verbraucher-Entscheidungen. Hochrisiko-Anwendungen sind unter anderem KI in Recruiting, in Bildung, in kritischen Infrastrukturen und in der Strafverfolgung. Begrenztes Risiko gilt für transparenz-pflichtige Anwendungen wie Chatbots. Minimales Risiko betrifft die meisten klassischen Anwendungen wie Spam-Filter.

Was Hochrisiko-Status bedeutet

Hochrisiko-Anwendungen brauchen eine Konformitätsbewertung. Du musst dokumentieren, wie das Modell trainiert wurde, mit welchen Daten, wie Bias adressiert wird. Du brauchst eine menschliche Aufsichts-Instanz, die jedes Ergebnis prüfen kann. Du musst Logging und Monitoring sicherstellen. Das ist nicht trivial und nicht günstig.

Praktische Konsequenz für die Projekt-Entscheidung

Wenn dein Use-Case in die Hochrisiko-Klasse fällt, lass die Compliance-Kosten von Anfang an in den Business-Case einfließen. Manche Projekte erweisen sich dann als nicht mehr wirtschaftlich. Manche bleiben sinnvoll, brauchen aber einen längeren Vorlauf und mehr Stakeholder, etwa Datenschutz, Compliance und Betriebsrat.