Wie designe ich Mensch-im-Loop für KI-Anwendungen?

Drei Stufen

1. Human-in-Loop: Pflicht-Prüfung jedes Outputs.

2. Human-on-Loop: Stichproben-Prüfung.

3. Human-out-Loop: vollautomatisch mit Audit.

Human-in-Loop

• Pro Output Mensch-Prüfung.

• Bei Hoch-Risiko Pflicht.

• Recruiting, Health, Justiz.

• Höherer Aufwand.

• Höhere Qualität.

Human-on-Loop

• Stichproben-Prüfung.

• Monitoring + Alerts.

• Eingriff bei Anomalien.

• Standard für Mittel-Risiko.

• Effizienz + Sicherheit.

Human-out-Loop

1. Vollautomatisch.

2. Mit Audit-Trail.

3. Bei Niedrig-Risiko.

4. Z. B. Routine-Mails.

5. Mensch nicht in Echtzeit involviert.

EU-AI-Act-Pflicht

• Hoch-Risiko-Systeme: Mensch-Aufsicht Pflicht.

• Mensch muss intervenieren können.

• Authority + Mandate klar.

• Schulung.

• Aufsichts-Protokoll.

Design-Prinzipien

• Mensch hat letztes Wort.

• Override-Mechanismus.

• Transparenz über KI-Confidence.

• Eskalations-Pfad.

• Audit-Trail.

Anti-Patterns

• Human-Pflicht ohne Authority.

• Mensch als Prüfer ohne Eingriffs-Möglichkeit.

• Automation-Bias (Mensch vertraut KI blind).

• Override schwer zu nutzen.

• Audit-Trail fehlt.