KI kann heute erstaunlich vieles anfassen, aber nicht alles zuverlässig erledigen. Wer von der Breite der Fähigkeiten auf die Verlässlichkeit schliesst, spart den Prüfaufwand an der falschen Stelle. Die Studienlage zeigt, dass sich Fehler in langen, mehrstufigen Arbeitsabläufen häufen und dass das Vertrauen in die Maschine schneller wächst als ihre Zuverlässigkeit.
Der Satz „KI kann alles“ ist in einem Punkt richtig: Sie kann fast alles anfassen. Texte, Tabellen, Code, Präsentationen, E-Mails. Er ist in einem anderen Punkt falsch: Anfassen heisst nicht, fehlerfrei zu erledigen. Zwischen beidem liegt die Lücke, die im Arbeitsalltag über Qualität entscheidet.
Warum Breite Vertrauen erzeugt
Wenn ein System in zehn Disziplinen brauchbar antwortet, schliessen wir auf die elfte. Wir bewerten Fähigkeit als Gesamteindruck. Bei Menschen funktioniert das meistens, weil Kompetenz in verwandten Gebieten zusammenhängt. Bei Sprachmodellen hängt sie nicht zusammen. Ein Modell formuliert eine richtige und eine falsche Antwort im gleichen sicheren Ton. Der Ton liefert damit kein Signal für Qualität.
Daraus entsteht ein Gefälle: Je breiter die Einsatzmöglichkeiten, desto weniger prüfen wir im Einzelfall. Die Kontrolle sinkt genau dort, wo das Risiko steigt, nämlich bei Aufgaben, die wir selbst nicht tief genug kennen, um den Fehler zu sehen.
Wo Fehler entstehen
Eine Aufgabe mit einem Schritt verhält sich anders als ein Arbeitsablauf mit zwanzig Schritten. Jeder Schritt baut auf dem Ergebnis des vorherigen auf. Kleine Abweichungen bleiben im Dokument stehen und werden im nächsten Durchgang zur Grundlage. Dazu kommen begrenzte Kontextfenster: Komplexe Projekte passen selten in ein einziges, sodass Agenten den Überblick über frühere Schritte verlieren.
Ein Experiment mit Spitzenmodellen zeigt, wie sich das summiert. Die Modelle bearbeiteten lange, mehrstufige Arbeitsabläufe mit komplexen Dokumenten aus 52 Fachbereichen. Im Durchschnitt wurden 25 Prozent des Inhalts verfälscht, bei anderen Modellen mehr als die Hälfte. Als Mindeststandard galten 98 Prozent Genauigkeit nach 20 Interaktionen. Diesen Wert erreichten die meisten Modelle nur beim Programmieren in Python, wo sich ein Ergebnis automatisch prüfen lässt. Die Studie liegt als Preprint vor und ist noch nicht begutachtet.
Auch die Messlatte selbst ist schmal. Eine Auswertung von Stanford und Carnegie Mellon fand, dass gängige Benchmarks von Tätigkeiten wie Informationen beschaffen und mit Computern arbeiten dominiert werden, die zusammen weniger als fünf Prozent der Beschäftigung abdecken. Ein gutes Testergebnis sagt damit etwas über einen kleinen Ausschnitt der Arbeit aus. Je komplexer die Aufgaben wurden, desto schneller stiessen die Agenten an Grenzen.
Effizienz gegen Urteilskraft
Der Nutzen von KI liegt im gesparten Aufwand. Prüfen kostet Aufwand. Beide Kräfte wirken gegeneinander, und im Alltag gewinnt meist die Effizienz. Je besser der erste Eindruck, desto kürzer der zweite Blick.
Eine Befragung von 319 Wissensarbeitenden zeigt diese Richtung: Wer der KI mehr zutraute, gab an, weniger Aufwand in kritisches Denken zu stecken. Eine Studie mit 1923 Teilnehmenden, die zehn simulierte Arbeitsaufgaben mit KI-Programmen lösten, ergänzt das Bild. Die Nutzung selbst schmälerte die kognitiven Fähigkeiten nicht zwingend. Wer KI-Vorschläge aber veränderte, hinterfragte oder ablehnte, berichtete mehr Selbstvertrauen und ein stärkeres Gefühl, Urheber des Ergebnisses zu sein. Wer sie unverändert übernahm, verlor einen Teil davon.
Prüfen ist damit mehr als Qualitätssicherung. Es erhält die Urteilskraft, die im Umgang mit KI gebraucht wird.
Was das für Führung bedeutet
Die Arbeit verschiebt sich vom Erstellen und Suchen zum Prüfen und Einordnen. Das verändert, was Führung festlegen muss. Nicht mehr nur, welche Tools eingesetzt werden, sondern welche Schritte eines Ablaufs die KI allein ausführen darf und an welchen Stellen ein Mensch das Ergebnis freigibt.
- Abläufe in kurze Abschnitte teilen, damit sich Fehler nicht über zwanzig Schritte aufbauen.
- Zwischenergebnisse prüfen, nicht nur das Endergebnis.
- Dort Stichproben einplanen, wo ein Fehler nicht sofort auffällt, etwa bei Zahlen in langen Dokumenten.
- Verantwortung für die Freigabe namentlich zuweisen.
Ein Unternehmen, das diese Fragen früh klärt, nutzt die Breite der KI, ohne ihr die Entscheidung zu überlassen.
Was eine Maschine kann, zeigt der Test. Was sie darf, entscheidet, wer die Verantwortung trägt.
Disclaimer
Dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Das Beitragsbild ist KI-generiert (Higgsfield, GPT Image) und wurde von mir konzipiert. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.
Quellen
- Baldeo, S. (o. D.). Overreliance on AI programs may undermine confidence at work [Pressemitteilung]. American Psychological Association. https://www.eurekalert.org/news-releases/1123722
- Bölling, N. (2026, 15. Mai). Bis zu 25 Prozent verfälscht: Microsoft-Forscher warnen davor, große Dokumente von KI bearbeiten zu lassen. t3n. https://t3n.de/news/?p=1742608
- CO/AI. (o. D.). AI chatbots are demoralizing some workers, study reveals. https://getcoai.com/news/ai-chatbots-are-demoralizing-some-workers-study-reveals/
- Haufe. (o. D.). KI-Agenten werden an der Arbeitswelt vorbei entwickelt. https://www.haufe.de/personal/hr-management/ki-agenten-werden-an-der-arbeitswelt-vorbei-entwickelt_80_681254.html
- Schnell, U. (2026, 22. September). KI plant und handelt – wie Menschen die Kontrolle behalten. ingenieur.de. https://www.ingenieur.de/fachmedien/konstruktion/produktentwicklung/ki-agenten-in-unternehmen-vom-assistenten-zum-akteur/
- Bölling, N. (2026, 31. Januar). Ex-SAP-CTO warnt: KI-Agenten höchstens für Dokumentenarchivierung geeignet. t3n. https://t3n.de/news/?p=1726941