Wie gründlich muss ich KI-Ergebnisse prüfen?

Sprachmodelle sind darauf trainiert, plausible Formulierungen zu erzeugen. Sie klingen flüssig und überzeugend, gleichen den Inhalt aber nicht verlässlich gegen objektive Fakten ab. Behandle die Ausgabe deshalb zunächst als Arbeitsmaterial, das du fachlich bewerten musst.

Die rechtliche und fachliche Verantwortung lässt sich nicht an die Maschine delegieren: Sie bleibt bei dir und deiner Organisation, und ein Mensch muss die Entscheidung begründen können. Daraus folgt aber nicht, dass jeder Textbaustein gleich tief analysiert wird. Die Prüftiefe skaliert mit der Konsequenz, und das entscheidest du in vier Schritten. Im Lehrgang Manager für KI-Kompetenzen (IHK) ist das Thema in Modul 2.

Schritt 1: Schadensschwere klären

Frage zuerst, was passiert, wenn im Output ein Fehler steckt. Zum Beispiel: Eine schiefe Zahl in einer internen Notiz ist ärgerlich, dieselbe Zahl in einem Angebot ist ein Problem. Die Schadensschwere entscheidet das OB: ob du dich überhaupt auf das Ergebnis stützen darfst.

Schritt 2: Prüfbarkeit einschätzen

Dann schätze ein, wie gut sich die Aussagen im Output prüfen lassen: Welche davon kannst du anhand von Primärquellen überprüfen, Namen, Zahlen und Quellenangaben etwa, und wo brauchst du eine eigene fachliche Bewertung? Die Prüfbarkeit bestimmt das WIE: wie genau du hinschauen musst.

Schritt 3: Prüftiefe festlegen

Beide Achsen zusammen spannen eine einfache Entscheidungs-Matrix auf. Der Lehrgang führt sie zunächst als Orientierungsprinzip ein: Reicht ein kurzer Plausibilitäts-Check, oder braucht es eine echte Tiefenprüfung? Die konkrete Anwendung vertieft er an späterer Stelle. Als Merkregel des Lehrgangs bleibt: nicht alles gleich streng, aber Kritisches konsequent.

Schritt 4: Verzerrung zuordnen, Modell oder Mensch

Beim Prüfen selbst lohnt sich eine Unterscheidung, denn die beiden Fälle brauchen verschiedene Gegenmittel.

• Algorithmische Modellverzerrung: Die Schlagseite sitzt im System. Illustrativ: Auf die Eingabe „erfolgreiche Führungskräfte“ nennt ein Modell vorwiegend Männer aus DAX-Konzernen, weil genau dieses Muster in seinen Trainingsdaten steckte.

• Menschliche Denkfalle: Die Verzerrung sitzt bei dir. Das einseitige Ergebnis geht durch, weil die professionelle Form über den Inhalt hinwegtäuscht.

Prüfe deshalb beides: mögliche Verzerrungen im Ergebnis und deine eigenen Gründe, es zu übernehmen. Wie die Denkfalle funktioniert, steht unter Automation Bias; das konkrete Prüfverfahren liefert Wie prüfe ich, ob eine KI-Antwort stimmt?. Wie Cutoff, Halluzination und Scheinsicherheit zusammenhängen, zeigt die Übersicht der KI-Fehlerbilder.