Was bedeutet „Halluzination" bei einem LLM?

Warum Halluzinationen entstehen

LLMs sind statistische Modelle. Sie kennen kein Konzept von Wahrheit oder Wissen, sondern generieren das wahrscheinlichste nächste Wort, basierend auf den Trainingsdaten. Wenn du eine Frage stellst, zu der das Modell keine konkreten Trainings-Beispiele hat, produziert es eine plausibel klingende Antwort, die aber komplett erfunden sein kann.

Typische Halluzinations-Muster

Erfundene Studien („Eine Harvard-Studie von 2021 zeigt…"), die nicht existieren. Falsche Zitate, die niemand gesagt hat. Erfundene Personen, Daten oder Ereignisse. Falsche Code-Beispiele, die syntaktisch richtig aussehen, aber nicht funktionieren. In allen Fällen klingt die Ausgabe plausibel und selbstsicher.

Warum das ein Top-Risiko ist

Nutzer ohne Domain-Wissen können Halluzinationen nicht erkennen. Sie übernehmen die Antwort, weil sie eloquent klingt. In sensiblen Bereichen (Medizin, Recht, Finanzen) kann das schwerwiegende Folgen haben. Eine McKinsey-Studie 2024 nennt Ungenauigkeit als häufigstes KI-Problem in Unternehmen.

Schutz vor Halluzinationen

Retrieval Augmented Generation (RAG) verankert Antworten in geprüften Dokumenten. Stichproben-Prüfung durch Menschen filtert offensichtliche Fehler. Quellen-Verifikation für jede wichtige Aussage. Bewusstsein bei den Nutzern: „Trust but verify", egal wie selbstsicher die KI klingt.