Automation Bias
Die kognitive Neigung, Vorschläge automatisierter Systeme unkritisch zu übernehmen. Wer ihr dauerhaft nachgibt, kann in eine Overreliance rutschen, also in eine übermäßige Abhängigkeit vom Werkzeug.
Automation Bias ist eine Neigung, kein Bedienfehler: Der Vorschlag einer Maschine wirkt glaubwürdiger, weil er fehlerfrei formuliert und ohne jedes Zögern vorgetragen wird. Perfekte Grammatik und absolute Selbstsicherheit sagen aber nichts über die Richtigkeit des Inhalts. Dauerhaft unkritisches Vertrauen kann eine übermäßige Abhängigkeit vom Werkzeug begünstigen, im Lehrgang Overreliance genannt.
Zwei Fehlerklassen
Kommissionsfehler (falsche Tat): Du übernimmst einen fehlerhaften Vorschlag und baust ihn ungeprüft ein.
Omissionsfehler (gefährliche Unterlassung): Dein eigener Zweifel verpufft, weil die KI nichts beanstandet.
Was die Feldstudie zeigt
Wie zweischneidig das ist, zeigt eine Feldstudie der Harvard Business School mit BCG aus dem Jahr 2023 mit 758 Consultants. Lag die Aufgabe im Fähigkeitsbereich der KI, verbesserte sich die Qualität um über 40 %. Bei einer absichtlich KI-untauglichen Aufgabe mit irreführenden Daten kippte das Bild: Die Trefferquote fiel von 84,5 % ohne KI auf rund 60 bis 70 % mit KI, weil die Berater plausibel klingende Fehllösungen zu wenig hinterfragten.
Das Muster ist also nicht „KI hilft“ oder „KI schadet“. Es kommt darauf an, ob die Aufgabe im Fähigkeitsbereich des Modells liegt, und ob danach noch jemand hinschaut.
De-Skilling als mögliche Langzeitfolge
Der Lehrgang beschreibt auch den möglichen Verlust eigener analytischer Fähigkeiten: De-Skilling, das schleichende Nachlassen von fachlicher Schärfe und Urteilskraft. Fällt die eigene Prüfung über längere Zeit aus, kann genau die Fähigkeit leiden, mit der du Fehler findest.
Merksatz: Nutze die KI für den Entwurf. Die fachliche Bewertung bleibt deine Aufgabe.
Wie streng du im Einzelfall hinschauen musst, hängt von der Konsequenz ab. Das klärt Wie gründlich muss ich KI-Ergebnisse prüfen? in vier Schritten. Warum der souveräne Ton nichts beweist, steht unter Scheinsicherheit; das konkrete Prüfverfahren liefert Wie prüfe ich, ob eine KI-Antwort stimmt?. Im Lehrgang Manager für KI-Kompetenzen (IHK) ist Automation Bias Thema in Modul 2.
Beispiele aus der Praxis
Beispiel · Kommissionsfehler: Eine Formel kommt mit einem Logikfehler aus der KI zurück. Weil die Antwort sauber aussieht, landet sie ungeprüft in deinen Folien.
Beispiel · Omissionsfehler: Du spürst, dass im Entwurf ein Absatz fehlt. Die KI meldet „Text komplett“, und du glaubst ihr statt dir.
Solche Begriffe sicher anwenden — im IHK-Lehrgang
„Automation Bias" ist einer von 9 Schlüsselbegriffen, die wir im Manager-Lehrgang in praxisnahen Modulen vertiefen. Hol dir das offizielle IHK-Zertifikat.
Kostenlos testenthekey.academy ist eine deutsche Online-Lernplattform für IHK-zertifizierte berufliche Weiterbildung — 24 Lehrgänge zu KI, Führung, Resilienz, Marketing und HR. 100 % online, self-paced, mit IHK-Zertifikat.