In den Einstellungen des KI-Assistenten, den ich täglich nutze, steht eine Anweisung, die ich selbst formuliert habe: Sei mein Sparringspartner, denn ich möchte nicht irgendwann aufhören, selbst zu denken. Gleich danach folgt allerdings: Aber hinterfrage nicht alles, denn das wird auf Dauer anstrengend.
Gerade beim zweiten Teil ertappe ich mich immer wieder selbst. Ich möchte, dass meine Gedanken hinterfragt werden, aber ohne die damit verbundene Reibung.
Als jemand, der KI-Agenten für Instandhaltungsteams entwickelt, hatte ich schon immer das Gefühl, dass die Versuchung groß ist, diese leistungsfähigen Werkzeuge als Abkürzung zu missbrauchen. Leider beobachte ich genau das inzwischen überall. Dann saß ich zum dritten Mal in einer Besprechung zum selben Thema. Wieder dasselbe mit Claude erstellte Dokument. Wieder dieselben Fragen an den angeblichen „Autor“. Wieder dieselben halbherzigen, ausweichenden Antworten. Da war mir klar: Wir haben ein Problem.
Um eines klarzustellen: Auch ich bin da keine Ausnahme. Dazu später mehr.
Die Forschung hat einen Begriff dafür
Im Januar 2026 gaben die Wharton-Forscher Steven Shaw und Gideon Nave diesem Verhalten einen Namen: „Cognitive Surrender“, also kognitive Kapitulation. Gemeint ist, dass Menschen KI-Ergebnisse nahezu ungeprüft übernehmen und dabei sowohl ihr Bauchgefühl als auch – schlimmer noch – ihr bewusstes, reflektiertes Denken übergehen.
Sie beschreiben KI als „System 3“ neben dem schnellen, intuitiven System 1 und dem langsamen, bewussten System 2 aus Daniel Kahnemans Buch „Schnelles Denken, langsames Denken“ (2011). In drei vorregistrierten Experimenten mit 1.372 Teilnehmern und fast 9.600 Denkaufgaben steuerten die Forscher unbemerkt, ob die KI richtige oder falsche Antworten gab.
Das Ergebnis ist ernüchternd: Im Vergleich zu Personen, die die Aufgaben ohne KI-Unterstützung bearbeiteten, erzielten Personen mit KI-Unterstützung eine um 25 Prozentpunkte höhere Trefferquote, wenn die KI richtige Antworten lieferte. Lag die KI dagegen falsch, war ihre Trefferquote um 15 Prozentpunkte niedriger. Gleichzeitig waren die Teilnehmer nach der KI-Nutzung von ihren Antworten stärker überzeugt – unabhängig davon, ob die KI richtiglag. Zeitdruck und Anreize beeinflussten die Zahlen, änderten aber nichts am grundlegenden Muster.
Am stärksten zur unkritischen Übernahme neigten Menschen mit hohem Vertrauen in KI und geringer Bereitschaft, sich auf anstrengendes Nachdenken einzulassen. Das hört man nicht gern, wenn man diese Werkzeuge täglich nutzt und sich zunehmend auf sie verlässt.
Aufgaben auslagern oder das eigene Urteilsvermögen aufgeben?
Für mich ist die Unterscheidung, die Nave trifft, der hilfreichste Aspekt seiner Untersuchung. Beim Auslagern einer Aufgabe an ein Werkzeug behalten Sie die Kontrolle. Ein einfaches Beispiel ist der Taschenrechner, der eine Berechnung für Sie übernimmt. Bei der kognitiven Kapitulation hingegen trifft das Werkzeug die Entscheidung, und Sie übernehmen sie als Ihre eigene, ohne zu bemerken, dass Sie damit Ihre gedankliche Eigenständigkeit aufgeben.
Gerade dieser letzte Punkt ist gefährlich. Die Forscher weisen darauf hin, dass das ungute Gefühl, das uns normalerweise zum erneuten Prüfen veranlasst, offenbar unterdrückt wird. Sie bemerken nicht, dass Sie Ihr eigenes Urteil aufgeben. Stattdessen fühlen Sie sich besonders produktiv.
Die Autoren vermeiden bewusst moralische Urteile. Shaw betont, dass kognitive Kapitulation weder bedeutet, dass KI grundsätzlich schlecht ist, noch dass ihre Nutzung unvernünftig wäre. In vielen Situationen verbessert KI das Urteilsvermögen. Das Problem ist nicht, dass Sie der Maschine erlauben, recht zu haben. Es ist, dass Sie irgendwann nicht mehr erkennen, wenn sie falschliegt.
Die Schwelle sinkt immer weiter
Ein einzelnes Experiment bildet nur einen bestimmten Moment ab. Was mich mehr beunruhigt, ist die Entwicklung, die sich abzeichnet. Ein im März 2026 auf arXiv veröffentlichtes Preprint beschreibt sie als „Delegation Feedback Loop“, eine sich selbst verstärkende Schleife der Aufgabenübertragung:
Je leistungsfähiger und günstiger KI wird, desto anspruchsvollere Aufgaben übertragen wir an sie.
Dadurch erledigen wir immer mehr Aufgaben nicht mehr selbst. Fähigkeiten, die wir nicht regelmäßig einsetzen, bauen sich mit der Zeit ab.
Wenn unsere Fähigkeiten nachlassen, erscheint es zunehmend sinnvoll, weitere Aufgaben an KI zu übertragen. So schließt sich der Kreislauf.
Der Autor räumt offen ein, dass es zwar Belege für die einzelnen Schritte gibt, der vollständige Kreislauf aber noch nie in einer Langzeitstudie untersucht wurde. Es handelt sich um eine Hypothese, nicht um ein gesichertes Forschungsergebnis. Trotzdem erkenne ich das Muster wieder und beobachte es gerade in der Praxis.
In der Instandhaltung würden wir das als Ausfallmechanismus mit einem langen P-F-Intervall bezeichnen. Eine Fähigkeit fällt nicht an einem bestimmten Tag plötzlich aus. Sie lässt schleichend nach, niemand überprüft sie und erst wenn sie unter Belastung gebraucht wird, merkt man, dass sie nicht mehr vorhanden ist.
Bei mir selbst fiel mir dieser Rückgang bei meiner Recherchearbeit auf. Claude und Codex sind so leistungsfähige Recherchewerkzeuge, dass ich mich daran gewöhnt hatte, meine digitalen Recherchehelfer loszuschicken und anschließend ihre Ergebnisse zu nutzen. Erst durch einen groben Fehler wurde mir bewusst, was ich falsch gemacht hatte. Seitdem folge ich einem klar strukturierten Rechercheprozess, bei dem ich Quellen systematisch bewerte und mehrfach lese.
Macht KI uns geistig träge?
Mir ist bewusst, dass man die ganze Geschichte stark vereinfacht so zusammenfassen könnte: KI macht uns geistig träge. Dafür gibt es keine ausreichenden wissenschaftlichen Belege. Ein Überblick der American Psychological Association vom Juli 2026 verweist vielmehr auf einen möglicherweise entscheidenden Unterschied: Passive KI-Nutzung kann zum Abbau von Fähigkeiten führen, während ein strukturierter, bewusster Einsatz kritisches Denken und Kreativität stärken kann.
Derselbe Überblick verweist auf eine Studie von Microsoft und der Carnegie Mellon University mit 319 Beschäftigten in wissensintensiven Berufen. Diejenigen, die mehr Vertrauen in generative KI hatten, gaben an, bei deren Nutzung weniger kritisch nachzudenken. Entscheidend war das Vertrauen in das Werkzeug und nicht das Werkzeug selbst.
Die Frage lautet also nicht, ob wir KI einsetzen sollten, sondern wie die Zusammenarbeit mit ihr gestaltet wird und wer diese Gestaltung bestimmt.
Wie ich die Kontrolle behalte (und wie auch Sie das schaffen können)
Ich habe mir einige Gewohnheiten angeeignet, mit denen ich bewusst wieder etwas Reibung in meinen Arbeitsablauf bringe.
Ich lasse mir widersprechen. Die Anweisung an die KI, meine Aussagen kritisch zu hinterfragen, bleibt dauerhaft bestehen. So muss ich nicht jedes Mal selbst daran denken, um Widerspruch zu bitten, gerade an Tagen, an denen ich müde bin.
Ich denke nach, bevor ich einen Prompt eingebe. Ich betrachte KI als eine Technologie mit sehr unterschiedlichen Stärken und Schwächen. In manchen Bereichen ist sie ausgesprochen leistungsfähig, in anderen deutlich weniger. Deshalb überlege ich zuerst, welches Ergebnis ich erreichen möchte, und formuliere meinen Prompt entsprechend. Ich gebe den Rahmen vor.
Manche Aufgaben erledige ich bewusst weiterhin selbst. Ich halte meine Entscheidungen selbst schriftlich fest. Wenn mir das nicht gelingt, war es wahrscheinlich auch nicht wirklich meine eigene Entscheidung.
Ich prüfe dort, wo es darauf ankommt, nicht überall. Ich lege meine Erfolgskriterien im Voraus fest und prüfe, ob die Ergebnisse diese erfüllen.
Der Teil, der mir am schwersten fällt
KI ist ein echter Fortschritt. Sie ermöglicht uns Dinge, die zuvor schlicht nicht möglich waren. Meine Aufgabe besteht darin, KI-Agenten und Lösungen für Instandhaltungsteams zu entwickeln. Genau darin besteht unser Nutzenversprechen: Instandhaltungsplanern und Technikern die Übertragung von Aufgaben an KI zu erleichtern.
Ich halte das nicht für falsch. Aber damit betrifft die Frage, die ich in diesem Beitrag aufwerfe, nicht nur mich persönlich. Wenn ein Instandhaltungsplaner keine Pläne mehr selbst erstellt, weil ein KI-Agent bessere erstellt, wer erkennt dann, wenn der Agent eines Tages eine falsche Entscheidung trifft und dabei keinerlei Unsicherheit erkennen lässt? Die Studie legt nahe, dass ein Planer, der sein Urteilsvermögen an die KI abgegeben hat, diesen Fehler nicht bemerken und sich dabei sogar noch sicherer fühlen könnte.
Die Antwort kann nicht einfach lauten: „Der Mensch muss eingebunden bleiben.“ Auch ein Mensch, der sein Urteilsvermögen bereits abgegeben hat, ist weiterhin am Prozess beteiligt, setzt es dabei aber nicht mehr ein. Die entscheidende Frage bei der Entwicklung solcher Lösungen lautet daher: Wie stellen wir sicher, dass Menschen ihr Urteilsvermögen weiterhin aktiv einsetzen, statt lediglich am Prozess beteiligt zu sein?
Ich habe meine KI gebeten, mir zu widersprechen. Vielleicht sollten die Produkte, die wir entwickeln, genau das auch tun.
Quellen