Halluzination
Wenn ein LLM überzeugend klingende Antworten erfindet, die faktisch falsch sind. Kein Bug, sondern eine Eigenschaft heutiger Modelle.
LLMs generieren Text auf Basis statistischer Wahrscheinlichkeiten, nicht auf Basis verifizierter Fakten. Wenn dem Modell ein Fakt fehlt, füllt es die Lücke mit etwas, das plausibel klingt, manchmal richtig, manchmal komplett erfunden.
Typische Halluzinationen
Erfundene Buchtitel und Autor, falsche Datumsangaben, nicht-existierende Gerichtsurteile, falsche Produkt-Spezifikationen, falsche Zitate.
Wie reduzieren?
(1) RAG nutzen, das Modell auf konkrete Quellen zwingen. (2) Niedrige Temperature einstellen (weniger Kreativität). (3) Selbst-Verifikation: das Modell bitten, jede Behauptung mit Quelle zu belegen. (4) Menschliche Aufsicht für alle geschäftskritischen Outputs.
Beispiele aus der Praxis
Beispiel · Rechtshalluzination: Ein US-Anwalt zitierte 2023 in einem Schriftsatz sechs Gerichtsurteile, die ChatGPT erfunden hatte. Disziplinarverfahren folgte. Lehre: Quellen IMMER prüfen.
Beispiel · Produkt-Halluzination: Ein Chatbot antwortet, ein Smartphone habe 256 GB Speicher, tatsächlich sind es 128 GB. RAG mit echtem Produktkatalog hätte das verhindert.
Verwandte Begriffe
:quality(85))
Solche Begriffe sicher anwenden — im IHK-Lehrgang
„Halluzination" ist einer von 9 Schlüsselbegriffen, die wir im Manager-Lehrgang in praxisnahen Modulen vertiefen. Hol dir das offizielle IHK-Zertifikat.
Kostenlos testenthekey.academy ist eine deutsche Online-Lernplattform für IHK-zertifizierte berufliche Weiterbildung — 25 Lehrgänge zu KI, Führung, Resilienz, Marketing und HR. 100 % online, self-paced, mit IHK-Zertifikat.