Welche Anforderungen an Trainingsdaten stellt der EU AI Act?

Art. 10: Data Governance

Trainings-Daten sind die häufigste Schwachstelle eines KI-Systems. Der EU AI Act adressiert das mit konkreten Anforderungen für Hochrisiko-Systeme.

• Relevanz: Die Daten müssen für den intended use des Systems passen.

• Repräsentativität: Die Daten müssen die Personen abbilden, auf die das System angewendet wird (geografisch, demografisch, kontextuell).

• Fehlerfreiheit: Soweit „angemessen“. Vollständige Fehlerfreiheit ist unrealistisch – aber systematische Fehler müssen erkannt und korrigiert sein.

• Vollständigkeit: Keine systematischen Lücken in wichtigen Subgruppen.

Bias-Erkennung

Du musst auf „mögliche Verzerrungen“ prüfen – insbesondere solche, die zu diskriminierenden Ergebnissen führen können. Best Practice: Fairness-Metriken (Demographic Parity, Equalized Odds) für relevante Subgruppen messen.

Sensitive Merkmale

Art. 10 Abs. 5 erlaubt ausnahmsweise die Verarbeitung sensibler personenbezogener Daten (Rasse, Religion, Gesundheit) – aber nur zur Bias-Erkennung und -Minderung. Streng begrenzt, mit Schutzmaßnahmen wie Pseudonymisierung.

Dokumentations-Pflicht

In der technischen Doku (Anhang IV) musst du die Datenquellen beschreiben: Herkunft, Sammlung, Annotation, Cleaning, Splits. Auch die getroffenen Bias-Maßnahmen sind dokumentationspflichtig.