Cutoff, Halluzination, Scheinsicherheit: warum KI-Fehler zusammenhängen

Ein KI-Modell kennt die Welt nur bis zu seinem Trainingsstichtag. Was danach geschah, fehlt in seinem Trainingswissen. Fragst du nach der aktuellen Geschäftsführung eines Unternehmens, kann es dir den Namen nennen, der zum Stichtag stimmte, auch wenn längst gewechselt wurde.

Wichtig für die Einordnung: Ein Cutoff ist keine Erfindung und kein Fehler des Modells, sondern eine Wissenslücke. Problematisch wird er erst durch das, was das Modell mit dieser Lücke macht.

Das Modell erfindet Inhalte, die plausibel klingen, aber nicht existieren, weil es nicht verlässlich zwischen wahren Fakten und statistisch passenden Mustern unterscheidet. Liegt eine gesuchte Zahl nach dem Trainingsstichtag, fehlt dem Modell ein verlässliches „Ich weiß es nicht“-Signal: Es füllt die Lücke mit dem, was statistisch in den Kontext passt. Je spezifischer deine Frage, desto höher das Risiko.

Das ist kein Zufall, sondern eine Folge der Verfahren: Kalai und Kollegen zeigen 2025, dass Training und Bewertung das Raten belohnen, statt Unsicherheit einzugestehen. Die Definition im Detail steht im Beitrag zu Halluzinationen bei LLMs, die Kurzdefinition im Glossar unter Halluzination.

Das Modell formuliert erfundene oder veraltete Angaben in makellosem, souveränem Deutsch, ohne Zögern und ohne Warnhinweis. Der überzeugende Ton ist dabei kein Beleg für Richtigkeit, sondern ein gelerntes Muster aus professionellen Texten.

Für dich heißt das: Formulierungssicherheit ist kein Qualitätsmerkmal. Ob eine Angabe stimmt, siehst du erst, wenn du sie gegen eine Primärquelle hältst.

Der Lehrgang beschreibt eine mögliche Kette, in der die drei Fehlerbilder so ineinandergreifen: Der Cutoff erzeugt eine Wissenslücke, die Halluzination füllt sie, und die Scheinsicherheit verpackt das Ergebnis so professionell, dass es wie geprüftes Wissen aussieht.

Ein typischer Fall: Du fragst nach Quartalszahlen, die nach dem Trainingsstichtag liegen, ohne dem Modell aktuelle Quellen mitzugeben. Der Cutoff ist dann die naheliegende Ursache. Erfindet das Modell dabei konkrete Zahlen, ist das die Halluzination als Wirkung. Und es tut das in perfektem Berichtston, das ist die Scheinsicherheit als Verpackung.

Das macht die Kette so gefährlich: Am Ende steht keine erkennbar unsichere Antwort, sondern eine überzeugend formulierte, die du ohne Prüfung übernehmen würdest. Oft kannst du nicht einmal sagen, ob das Modell etwas erfunden hat oder es einfach nicht wusste. Das macht die Prüfung umso wichtiger.

Die Kette bricht an einer Stelle: beim Gegenprüfen. Markiere die harten Fakten in der Antwort und gleiche sie mit einer echten Primärquelle ab, nicht mit einer zweiten KI. Wie das Schritt für Schritt geht, steht im Beitrag Wie prüfe ich, ob eine KI-Antwort stimmt?

Vorbeugen kannst du, indem du die Lücke selbst schließt: Was im Kontextfenster steht, kann das Modell bei der Antwort berücksichtigen. Gib aktuelle Zahlen und Dokumente also mit in die Anfrage, statt sie abzufragen, und prüfe die Antwort trotzdem gegen die Quelle.

Quelle: Kalai et al., „Why Language Models Hallucinate“ (arXiv 2509.04664, 2025).