Wer haftet, wenn eine KI im Unternehmen einen Fehler macht?

Drei Haftungsebenen

Ein typischer KI-Fehler, etwa ein Chatbot, der einem Kunden eine falsche Auskunft gibt, oder ein Bewerbungs-Scoring, das diskriminiert, kann gleichzeitig mehrere Akteure betreffen. Der Betreiber (das einsetzende Unternehmen) haftet als erstes, weil er den Schaden im eigenen Geschäftsbetrieb verursacht. Er kann beim Anbieter Regress nehmen, wenn ein Produktfehler vorliegt.

Produkthaftungs-Richtlinie (PLD) 2024

Die überarbeitete EU-Produkthaftungs-Richtlinie ist im Dezember 2024 in Kraft getreten, Umsetzung in nationales Recht bis Dezember 2026. Sie stellt klar: Software und KI-Systeme sind Produkte. Hersteller haften verschuldensunabhängig für Schäden durch fehlerhafte KI, auch für Cybersecurity-Mängel und unzureichende Updates.

EU AI Act Art. 26 · Pflichten des Betreibers

Wer Hochrisiko-KI einsetzt (z. B. Bewerbungs-Screening, Kreditscoring, Mitarbeiter-Bewertung) muss die KI bestimmungsgemäß betreiben, menschliche Aufsicht sicherstellen, Logs aufbewahren und betroffene Personen informieren. Verstöße können nach Art. 99 mit Bußgeldern bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden.

Praxis-Beispiel: Halluzinierter Chatbot

Air Canada wurde 2024 vom kanadischen Tribunal verurteilt, weil ihr Chatbot einem Kunden eine erfundene Erstattungsregel zugesichert hatte. Das Gericht sah den Chatbot als Erfüllungsgehilfen des Unternehmens. In Deutschland gilt § 278 BGB analog, der Betreiber haftet für Aussagen seiner KI wie für Aussagen eines Mitarbeitenden.

Was schützt dich

1. Schriftliche KI-Richtlinie mit Nutzungsgrenzen. 2. Menschliche Freigabe bei kundenrelevanten Entscheidungen. 3. Auftragsverarbeitungsverträge (AVV) mit allen KI-Anbietern. 4. Cyber- und Vermögensschaden-Versicherung mit KI-Klausel. 5. Dokumentation der Schulungen nach Art. 4.