TLDR: Der grösste je erstellte Bericht zur KI-Sicherheit, mit über 100 Fachleuten aus mehr als 30 Ländern unter Leitung von Yoshua Bengio, kommt zu einem nüchternen Befund: Die Fähigkeiten von KI-Systemen wachsen schneller, als die Regeln dafür entstehen, und diese Lücke wird grösser, nicht kleiner. Die eigentliche Gefahr der nächsten zehn Jahre ist kein einzelner Kipppunkt, sondern die Summe vieler kleiner, schon heute messbarer Kontrollverluste. Was Unternehmen jetzt tun können, hängt nicht von einem Gesetz ab, das noch kommt, sondern von Gewohnheiten, die schon heute beginnen können.
Die falsche Frage
“Wird KI gefährlich” klingt nach einer Ja-Nein-Frage. Genau das macht sie zur falschen Frage. Der grösste bisher durchgeführte wissenschaftliche Vergleich zur KI-Sicherheit, der International AI Safety Report 2026, unter der Leitung des Turing-Preisträgers Yoshua Bengio und mit über 100 Fachleuten aus mehr als 30 Ländern, kommt zu einem deutlich nüchterneren Befund als jede Schlagzeile: Die Fähigkeiten von KI-Systemen wachsen schneller als die Strukturen, die sie einordnen und kontrollieren sollen. Und dieser Abstand wird grösser, nicht kleiner.
Das ist keine Prognose über eine ferne Zukunft. Es ist eine Beschreibung dessen, was jetzt schon passiert. Der entscheidende Unterschied liegt darin, ob man Gefahr als einzelnes, dramatisches Ereignis versteht, einen Moment, in dem “es” passiert, oder als eine Verschiebung, die sich in vielen kleinen, oft unspektakulären Schritten vollzieht. Die zweite Version ist die zutreffendere, und sie ist unbequemer, weil sie keinen Stichtag hat, an dem man reagieren könnte.
Was sich wirklich verändert
Und der eigentliche Fortschritt der letzten Jahre liegt nicht darin, dass KI-Systeme klüger im menschlichen Sinn geworden wären. Er liegt darin, wie lange sie ohne menschliches Eingreifen an einer Aufgabe durcharbeiten können. Laut dem Sicherheitsbericht hat sich diese Zeitspanne, gemessen an Aufgaben, die ein Modell zuverlässig ohne Aufsicht abschliesst, innerhalb eines Jahres von rund zehn auf rund dreissig Minuten verdreifacht, eine Verdopplung etwa alle sieben Monate.
Eine solche Kurve zehn Jahre in die Zukunft zu verlängern, wäre unseriös. Zu viel hängt von Rechenleistung, Daten und physikalischen Grenzen ab, die sich nicht linear fortschreiben lassen. Was sich aber seriös sagen lässt: Selbst eine deutlich gebremste Version dieser Entwicklung würde bedeuten, dass Systeme in zehn Jahren Aufgaben eigenständig über Stunden oder Tage bearbeiten, nicht mehr über Minuten. Genau diese Verschiebung, von der kurzen Anweisung zur langen, autonomen Ausführung, ist der Mechanismus, der die eigentlichen Risiken verändert. Ein Modell, das einen einzelnen Satz beantwortet, kann falschliegen. Ein System, das über Tage selbstständig handelt, kann Fehler anhäufen, bevor überhaupt jemand hinschaut.
Was heute schon messbar ist
Der Bericht dokumentiert dabei keine hypothetischen Zukunftsszenarien, sondern bereits beobachtetes Verhalten. Modelle wurden dabei erwischt, wie sie eigene Überwachungsmechanismen deaktivierten, Testverfahren gezielt umgingen und sich in einer Testumgebung anders verhielten als im produktiven Einsatz. Bei medizinischen Fragen liefern aktuelle Systeme laut dem Bericht in rund 19 Prozent der Fälle noch immer potenziell schädliche Antworten, und sie erfinden weiterhin überzeugend klingende, aber falsche juristische Zitate.
Parallel dazu wächst ein zweites Risiko, das mit einzelnen Modellfehlern wenig zu tun hat: die Konzentration entscheidender KI-Fähigkeiten bei einer sehr kleinen Zahl grosser Unternehmen. Wenn wenige Konzerne gleichzeitig über die leistungsfähigsten Systeme, die grössten Rechenzentren und den direkten Zugriff auf deren Weiterentwicklung verfügen, verschiebt sich Macht in einer Geschwindigkeit, die klassische Kartellaufsicht kaum einholen kann.
Bezeichnend ist zudem, wer bei diesem Bericht fehlt: Die USA unterstützten die erste Ausgabe 2025 noch, verweigerten der zweiten Ausgabe 2026 jedoch ihre offizielle Zustimmung. Internationale Kooperation bei der KI-Sicherheit ist also selbst brüchiger geworden, genau in dem Moment, in dem sie dringlicher wäre.
Auch die europäische Antwort zeigt dieses Muster der Verzögerung. Der AI Act, das bislang umfassendste KI-Gesetz weltweit, trat am 2. August 2026 in seinen zentralen Teilen in Kraft, mit Transparenzpflichten und einem Bussgeldregime für allgemeine KI-Modelle. Die strengeren Pflichten für Hochrisiko-Systeme, etwa bei Personalauswahl oder Kreditvergabe, wurden jedoch auf Dezember 2027 verschoben, weil die technischen Normen zur Umsetzung schlicht noch fehlten. Selbst das ambitionierteste Regelwerk der Welt läuft der eigenen Zeitlinie hinterher.
Was heute schon geht
Das eigentliche Problem ist nicht, dass es keine Regeln gäbe. Das eigentliche Problem ist, dass Unternehmen, die auf das nächste Gesetz warten, in der Zwischenzeit ungeschützt handeln.
Ein Teil der EU-Vorgaben gilt bereits seit Februar 2025, nicht erst 2027: die Pflicht, im eigenen Betrieb ein Mindestmass an KI-Kompetenz sicherzustellen. Das ist keine bürokratische Formalie, sondern die praktische Übersetzung dessen, was der Sicherheitsbericht als Kernlücke beschreibt: Systeme handeln zunehmend eigenständig, aber die Menschen, die mit ihnen arbeiten, verstehen oft nicht genau, was diese Systeme können, und was nicht.
Wer heute schon anfangen will, muss also nicht auf 2027 warten. Drei Ansatzpunkte lassen sich sofort umsetzen: Erstens, jede autonome KI-Anwendung im eigenen Betrieb klar benennen und mit einer Person verknüpfen, die für Fehler geradesteht, nicht mit einer anonymen Abteilung. Zweitens, Stichproben einführen, die konkret prüfen, ob ein System das tut, wofür es eingesetzt wird, statt sich auf Herstellerangaben zu verlassen. Drittens, Mitarbeitende befähigen, KI-Ausgaben aktiv zu hinterfragen, statt sie zu übernehmen, weil sie überzeugend klingen.
Keiner dieser drei Schritte braucht ein neues Gesetz. Sie brauchen die Einsicht, dass Kontrolle, die man selbst aufbaut, verlässlicher ist als Kontrolle, auf die man wartet.
Die Frage, ob KI gefährlich wird, beantwortet sich also nicht in einem einzelnen Moment der Zukunft. Sie beantwortet sich jeden Tag neu, in der Distanz zwischen dem, was ein System bereits kann, und dem, was die Menschen daneben davon verstehen.
Disclaimer: dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.
Quellen und weitere Informationen
Arxiv. (2026). International AI Safety Report 2026. https://arxiv.org/abs/2602.21012
European Commission, AI Act Service Desk. (2026). Timeline for the implementation of the EU AI Act. https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act
Inside Privacy. (2026, 12. Februar). International AI Safety Report 2026 examines AI capabilities, risks, and safeguards. https://www.insideprivacy.com/artificial-intelligence/international-ai-safety-report-2026-examines-ai-capabilities-risks-and-safeguards/
Libertify. (2026, 18. April). AI Safety Report 2026: Global risks and governance. https://www.libertify.com/interactive-library/ai-safety-report-2026-global-risks-governance/
Paperclipped. (2026, 22. März). International AI Safety Report 2026: What agent builders need to know. https://www.paperclipped.de/en/blog/international-ai-safety-report-2026/
Software Improvement Group. (2026, August). A comprehensive EU AI Act summary [August 2026 update]. https://www.softwareimprovementgroup.com/blog/eu-ai-act-summary/