Welche Daten-Governance verlangt die KI-VO (EU AI Act)?

Art. 10 KI-VO: Daten-Governance

Trainings-Daten sind die häufigste Schwachstelle eines KI-Systems. Der EU AI Act setzt für Hochrisiko-Systeme klare Anforderungen an Daten-Qualität und -Verarbeitung.

Vier Daten-Anforderungen

• Relevanz: Daten müssen für den vorgesehenen Einsatz passen.

• Repräsentativität: Daten müssen die Personen abbilden, auf die das System angewendet wird.

• Fehlerfreiheit: soweit angemessen. Vollständige Fehlerfreiheit ist unrealistisch, aber systematische Fehler müssen erkannt sein.

• Vollständigkeit: keine systematischen Lücken in wichtigen Subgruppen.

Bias-Erkennung Pflicht

Art. 10 Abs. 2(f) verlangt: prüfen ob Daten zu diskriminierenden Ergebnissen führen könnten. Best Practice: Fairness-Metriken (Demographic Parity, Equalized Odds, Calibration) für relevante Subgruppen messen.

Sensible Daten - Sonder-Bedingungen

Art. 10 Abs. 5 erlaubt die Verarbeitung sensibler Daten (Rasse, Religion, Gesundheit) NUR für Bias-Erkennung und -Minderung. Strenge Schutzmassnahmen Pflicht: Pseudonymisierung, technische Trennung, klare Zwecke.

Dokumentations-Pflicht

In Anhang IV technische Dokumentation: Daten-Herkunft, Sammlungs-Methode, Annotation, Cleaning, Splits, getroffene Bias-Massnahmen. Diese Doku wird Konformitaetsbewerter und Aufsichtsbehörden vorgelegt.

Verstöße

Bei Verstoss gegen Art. 10: bis 15 Mio. EUR oder 3 % Jahresumsatz (Art. 99 Abs. 4). KMU-Schonung: niedrigerer Wert. In Praxis selten alleine sanktioniert, meist Teil eines breiteren Compliance-Audit-Findings.