Welche Governance-Pflichten ergeben sich aus dem EU-AI-Act?

Acht Pflichten Hoch-Risiko

1. Risk-Management-System (Art. 9).

2. Daten-Governance (Art. 10).

3. Technische Doku (Art. 11).

4. Logging (Art. 12).

5. Transparenz (Art. 13).

6. Menschliche Aufsicht (Art. 14).

7. Genauigkeit + Cybersicherheit (Art. 15).

8. Konformitäts-Bewertung (Art. 16+).

Risk-Management

• Risiko-Identifikation + Bewertung.

• Schutz-Massnahmen.

• Test-Strategie.

• Monitoring.

• Iterativer Prozess.

Daten-Governance

• Trainings-Daten relevant + repräsentativ.

• Bias-Tests.

• Daten-Schutz beachtet.

• Doku der Daten-Quellen.

• Aktualisierung.

Technische Doku

1. Systembeschreibung.

2. Daten-Beschreibung.

3. Modell-Beschreibung.

4. Performance-Metrics.

5. Test-Ergebnisse.

Logging

• Pro Inferenz dokumentiert.

• Audit-Trail.

• Retention-Pflicht.

• Forensik-tauglich.

• Datenschutz beachtet.

Transparenz

• Anwender informiert über KI-Einsatz.

• Funktionsweise erklärt.

• Limitierungen klar.

• User-Manual.

• Beschwerde-Mechanismus.

Menschliche Aufsicht

1. Pro Entscheidung Mensch-Override möglich.

2. Verantwortlicher benannt.

3. Schulung.

4. Eskalations-Pfad.

5. Pflicht-Prüfung.

Konformitäts-Bewertung

• Vor Markt-Eintritt.

• Intern oder Notified-Body.

• CE-Kennzeichnung.

• EU-Datenbank-Registrierung.

• Pflicht-Doku.

Anti-Patterns

• Klassifizierung erst nach Deployment.

• Doku als Marketing-Stempel.

• Mensch-im-Loop nur formal.

• Logging fehlt.

• Konformitäts-Bewertung skippt.