Wie recherchiere ich mit KI, ohne auf erfundene Quellen hereinzufallen?

KI-Modelle berechnen Wahrscheinlichkeiten nach dem Next-Token-Prinzip, sie arbeiten nicht wie eine Datenbank. Fragst du ein Modell ohne Web-Anbindung nach harten Fakten, erfindet es sie häufig in flüssigem Ton.

Wie groß das Problem ist, haben zwei Stanford-Studien in Rechts-Benchmarks gemessen, mit deutlich unterschiedlichen Halluzinationsraten. Drei spezialisierte juristische Recherchewerkzeuge kamen je nach System auf 17 bis 33 %. Bei konkreten, überprüfbaren Fragen zu zufällig gezogenen US-Bundesgerichtsfällen lag ChatGPT-4 bei 58 %, Llama 2 bei 88 %.

Wie teuer blindes Vertrauen wird, zeigt der Fall Mata v. Avianca. US-Anwälte ließen für ihre Recherche einen Chatbot arbeiten. Der erfand Präzedenzfälle, die Anwälte legten sie ungeprüft dem Gericht vor und wurden sanktioniert. Sichere Recherche ist Thema in Modul 5 des Lehrgangs Manager für KI-Kompetenzen (IHK).

Schritt 1: Risiko und Prüfzeit vorab klären

Drei Fragen vor der ersten Eingabe:

• Wie groß ist der Schaden, wenn eine Angabe falsch ist?

• Welcher Recherche-Modus passt zu diesem Risiko?

• Ist Zeit für die manuelle Quellenprüfung eingeplant?

Schritt 2: Den passenden Modus wählen

Der Lehrgang unterscheidet drei Modi, und zu jedem gehört eine Aufgabe für dich:

• Nur Gedächtnis (Brainstorming ohne Web): Faktenangaben an einer Primärquelle gegenprüfen.

• Geführte Echtzeit-Suche (schneller Überblick): Quellenlinks anklicken und prüfen.

• Deep Research (komplexe Synthese): Quellenliste anfordern und die entscheidenden Aussagen direkt in den Links validieren.

Den Unterschied beschreibt der Lehrgang so: Die Echtzeit-Suche arbeitet mit kurzen Webauszügen, die in das Kontextfenster wandern. Der agentenbasierte Deep-Research-Ablauf sucht, liest, stellt selbstständig neue Anfragen und führt das Gefundene über einen längeren Zeitraum zu einem Bericht zusammen. Wie solche KI-Agenten grundsätzlich arbeiten, steht in einem eigenen Beitrag.

Schritt 3: Den Prompt präzise fassen

Ein brauchbarer Rechercheauftrag nennt vier Dinge: Thema samt Zeitraum, den Modus, die gewünschte Ergebnismenge und die Pflicht zur Quellenliste mit direkten URLs. Illustratives Beispiel: die Marktentwicklung von Wärmepumpen der letzten zwei Jahre recherchieren, dafür Deep Research nutzen, die drei wichtigsten Trends zusammenfassen und am Ende eine strikte Quellenliste mit direkten URLs ausgeben.

Schritt 4: Quellen in der Primärquelle validieren

Zum Schluss öffnest du die Links und prüfst jede Aussage, die eine Entscheidung trägt, in der Primärquelle. Erst danach gilt sie als verifizierter Fakt.

Anti-Pattern Vibe Citing: Fußnoten in der Antwort beruhigen, also vertraust du dem Text nach Gefühl und öffnest die Links nicht. Genau das ist der Fehler. Auch Deep Research kann bei Navigation, Extraktion und Schlussfolgerung danebenliegen. Die historische GAIA-Evaluation von 2023 zeigt, wo allgemeine KI-Assistenten damals bei mehrstufigen Aufgaben an ihre Grenzen kamen; über die Zuverlässigkeit heutiger Deep-Research-Produkte sagt sie nichts aus.

Das Verfahren für die einzelne Angabe steht in Wie prüfe ich, ob eine KI-Antwort stimmt?.