Welche ethischen Fragen muss ich vor jeder KI-Einführung beantworten?

Frage 1 · Menschliche Aufsicht

Bei welchen Entscheidungen darf die KI alleine entscheiden, wann muss ein Mensch zustimmen oder eingreifen? Standard: Human-in-the-loop bei allen kundenrelevanten Entscheidungen mit Wirkung (Art. 22 DSGVO).

Frage 2 · Technische Robustheit

Wie geht das System mit unerwarteten Inputs um (Prompt-Injection, Adversarial Attacks, Datenkorruption)? Welche Fall-Back-Strategie greift bei Modell-Drift?

Frage 3 · Datenschutz

DSGVO-Rechtsgrundlage geklärt? AVV abgeschlossen? Drittland-Transfer abgedeckt? Daten-Minimierung umgesetzt (keine sensiblen Daten in Prompts)?

Frage 4 · Transparenz

Können wir Entscheidungen erklären? Wird gegenüber Betroffenen kenntlich gemacht, dass eine KI involviert ist? EU AI Act Art. 50 verlangt keine pauschale Kennzeichnung aller KI-Inhalte. Für Betreiber bestehen Offenlegungspflichten insbesondere bei Deepfakes und bestimmten Texten zu Angelegenheiten öffentlichen Interesses; gesetzliche Ausnahmen sind zu beachten.

Frage 5 · Diskriminierungsfreiheit

Sind Trainingsdaten und Outputs auf Bias geprüft (Geschlecht, Alter, Herkunft)? Amazon hat 2018 ein Bewerber-Scoring abgeschaltet, weil es Frauen systematisch schlechter bewertete. Trainingsdaten basierten auf historisch männlich dominierten Lebensläufen.

Frage 6 · Gesellschaftliche Verträglichkeit

Wer trägt die Folgen bei Fehlfunktion? Werden Arbeitsplätze betroffen, gibt es Umschulungs- oder Übergangsangebote? Verbesserung oder Verschlechterung für vulnerable Gruppen (z. B. ältere Mitarbeitende)?

Frage 7 · Rechenschaftspflicht

Wer ist verantwortlich, wenn etwas schiefgeht? Welche Audit-Spuren existieren? Wie schnell kann das System notgestoppt werden? Bei Hochrisiko-KI nach EU AI Act Art. 26 explizit zu dokumentieren.