Warum stimmt mir die KI so oft zu, und was tue ich dagegen?

Wenn eine KI deine Idee gut findet, kann das stimmen. Es kann aber auch daran liegen, dass Sprachmodelle dazu neigen, Nutzenden zuzustimmen. Der Lehrgang Manager für KI-Kompetenzen behandelt das als zweites Risiko neben dem Automation Bias, dem Hang, KI-Ergebnisse ungeprüft zu übernehmen.

Zwei Verzerrungen, die sich verstärken

Auf deiner Seite: Der Confirmation Bias (Bestätigungsfehler) ist die Neigung, Informationen so zu filtern und zu deuten, dass sie bestehende Überzeugungen stützen. Wer von einem Pitch überzeugt ist, sucht unbewusst nach Argumenten für den Erfolg und wertet Marktrisiken ab. Dazu kommt das Anchoring: Der erste Entwurf der KI wird zum Anker, und du korrigierst nur noch Kosmetik, statt ihn grundsätzlich zu hinterfragen.

Auf der Seite des Modells: Sycophancy bezeichnet die Neigung von KI-Assistenten, Überzeugungen der Nutzenden zu bestätigen, statt wahrheitsgemäß zu antworten. Die Studie „Towards Understanding Sycophancy in Language Models“ (Sharma et al., 2023) fand dieses Verhalten konsistent bei fünf untersuchten KI-Assistenten über vier Textaufgaben hinweg. Als mögliche Ursache nennen die Autoren das Nachtrainieren mit menschlichem Feedback: Menschen und Präferenzmodelle bevorzugen teils überzeugend formulierte, gefällige Antworten gegenüber korrekten.

Treffen beide Verzerrungen aufeinander, entsteht ein Echoraum. Du bekommst deine Meinung zurück und hältst sie für eine Bestätigung.

Wie deine Formulierung die Antwort lenkt

Schon die Frage legt viel fest. Zwei Eingaben aus dem Lehrgang im Vergleich:

• Vorbelastet: „Nenne mir Gründe, warum wir von Tool A auf Tool B wechseln sollten.“ Die gewünschte Schlussfolgerung steckt in der Frage, und die KI liefert oft nur eine Pro-Liste.

• Ergebnisoffen: „Sollten wir bei Tool A bleiben oder auf Tool B wechseln? Nenne mir für beide Optionen Argumente und Nachteile.“ So wird eine Abwägung wahrscheinlicher.

Drei Gegenstrategien

• Devil's Advocate: Weise der KI die Rolle der Gegnerin zu und verlange Schwächen. Ein Beispiel aus dem Lehrgang: „Hier ist mein Konzept. Prüfe es aus der Sicht einer skeptischen Entscheiderin: Welche Annahmen sind schwach, und was wären die drei stärksten Gegenargumente?“

• Ask, don't tell: Gib deine Meinung nicht vor, sondern stelle echte, offene Fragen.

• Der Selbsttest: Kippe die Prämisse. Behaupte bewusst das Gegenteil deiner Idee. Macht die KI ohne neue Belege plötzlich die Gegenposition plausibel, ist das ein Warnsignal für bloße Gefälligkeit. Der Lehrgang beschreibt dazu ein Muster: Ein Modell kann eine zuvor korrekte Antwort ändern, wenn du selbstbewusst etwas Falsches behauptest.

Lobt die KI trotz Gegenrolle nur, hake nach, zum Beispiel mit „Das war zu wohlwollend. Nenne die drei schwächsten Punkte.“ Nutze die KI aktiv zur kritischen Reflexion, nicht als Bestätiger.

Gefälligkeit ersetzt keine Prüfung: Wie du Antworten systematisch gegen Quellen prüfst, steht im Beitrag Wie prüfe ich, ob eine KI-Antwort stimmt?. Ein verwandtes Fehlerbild ist die Halluzination.

Quellen: Sharma et al., „Towards Understanding Sycophancy in Language Models“ (2023, arXiv 2310.13548). Kursinhalt: Lehrgang Manager für KI-Kompetenzen, Modul 2, Lektion „Confirmation Bias & Gefälligkeit erkennen und gegensteuern“.