Am 12. Oktober 2026 hat das britische Cabinet Office ein Paket von KI-Sicherheitsmaßnahmen angekündigt, das um zwei Dinge kreist: Frontier-KI soll Schwachstellen in Regierungssystemen finden, und für schwere Vorfälle, bei denen KI-Agenten außer Kontrolle geraten, sollen Reaktionsmöglichkeiten und gesetzgeberische Optionen vorbereitet werden. Die Ankündigung erfolgte gemeinsam vom Cabinet Office, dem britischen AI Security Institute, dem National Cyber Security Centre und weiteren Stellen; KI-Minister Kanishka Narayan stellte sie am selben Tag im Base-One-Inkubator des Imperial College London vor. Das Paket verdient Aufmerksamkeit, muss aber sorgfältig gelesen werden: Es vermischt bereits laufende Arbeiten mit Optionen, die sich noch im Stadium der Prüfung befinden, und beides darf nicht zu einer einzigen, bereits geltenden Pflicht verschmolzen werden.
Zuerst trennen: Was läuft bereits, was wird noch geprüft?
Zwei Punkte laufen bereits: die Ausweitung der Pilotprojekte zur Cyberabwehr mit Frontier-KI und die strengen Evaluierungen der neuesten Modellgeneration durch das AI Security Institute. Drei Punkte werden noch geprüft: ein stärkerer Schutz über den Cyber Security and Resilience Bill und das weitere Regelwerk, ein Reaktionsrahmen für Vorfälle mit KI-Agenten sowie die Details der Unterstützung für KI-Verifikation. Die Botschaft des Ministers an Frontier-Unternehmen — auf Wissenschaftler hören, wenn sie vor ernsten Gefahren warnen, unerwartetes Verhalten untersuchen und ein System, dessen Risiken sich nicht angemessen beherrschen lassen, nicht veröffentlichen — ist eine öffentliche Stellungnahme, keine bereits in Gesetz gegossene Pflicht. Stellungnahmen als Gesetze zu lesen und Prüfungen als erlassene Regeln zu behandeln, ist der leichteste Weg, diese Ankündigung falsch zu verstehen.
Frontier-KI umgekehrt eingesetzt: In Piloten bereits über 1.000 Stellen behoben
Nach Angaben der Regierung haben zwei Pilotprojekte bereits dazu beigetragen, über tausend potenzielle Cyberschwachstellen in Regierungssystemen zu finden und zu beheben sowie potenzielle Cyberbedrohungen zu erkennen. Die Ausweitung dieser Arbeit zielt unmittelbar darauf, die öffentlichen Dienste zu schützen, auf die Menschen täglich angewiesen sind: kurzfristig Risiken zu senken und langfristig eine sorgenfreiere Einführung von KI im öffentlichen Sektor zu stützen. Die Zahl stammt aus der Darstellung der Regierung selbst und bezeichnet potenzielle Schwachstellen, keine bereits geschehenen Einbrüche; behoben wurde, was die Piloten abgedeckt haben, nicht etwa jedes Regierungssystem Großbritanniens. Der Sinn des Pilotansatzes liegt darin, Frontier-Modelle schon jetzt als Verteidigungswerkzeug einzusetzen, statt erst auf einen perfekten Bewertungsstandard zu warten.
Warum Agentenvorfälle einen eigenen Arbeitsstrang bekommen
Die Ankündigung stellt Vorfälle mit KI-Agenten gesondert heraus, weil sie sich von herkömmlichen Cybervorfällen unterscheiden. Agenten können komplexe Aufgaben mit wenig menschlicher Aufsicht erledigen, und nach Einschätzung der Regierung könnte ein schwerer Vorfall mit Agenten schneller und breiter verlaufen als die schweren Vorfälle, auf die Regierungen üblicherweise vorbereitet sind, und neue Fachkenntnisse und Fähigkeiten erfordern. Das in der Ankündigung genannte Risiko des Kontrollverlusts bei KI bedeutet, dass sich autonome KI-Systeme der menschlichen Aufsicht entziehen. Hinzu kommt die Frage, wie schwere KI-Vorfälle und Beinahevorfälle erkannt und gemeldet werden können, damit Lehren schnell gezogen werden und nicht erst bei einer nachträglichen Aufarbeitung. Das National Cyber Security Centre und das AI Security Institute arbeiten an diesem Reaktionsrahmen; Einzelheiten sind noch mit Parlamentariern, Fachleuten und den Betreibern abzustimmen, die ihn umsetzen müssten.
Wer ist betroffen, und was lässt sich jetzt schon tun?
Am unmittelbarsten betroffen sind britische Ministerien, öffentliche Dienste und kritische Dienste wie Krankenhäuser und Versorgungsunternehmen; danach folgen Frontier-Modellentwickler, die eine klare öffentliche Erwartung erhalten haben, aber noch keiner neuen gesetzlichen Pflicht gegenüberstehen. Für Unternehmen, die in Großbritannien tätig sind oder die britische Regierung beliefern, sind jetzt vier Schritte möglich. Erstens: Agentenvorfälle in den bestehenden Prozess zur Reaktion auf Cybervorfälle aufnehmen, statt ein separates Handbuch nur für Chatbots zu schreiben. Zweitens: Betriebsprotokolle von Agenten und Aufzeichnungen über Beinahevorfälle aufbewahren, da die Richtung der Ankündigung darauf hindeutet, dass Beinahevorfälle künftig erkennbar und meldepflichtig werden könnten. Drittens: Notabschaltungen in autonome Abläufe einbauen und für folgenreiche Aktionen eine menschliche Bestätigung vorsehen, damit bei Kontrollverlust gestoppt werden kann. Viertens: die Einzelheiten des Cyber Security and Resilience Bill verfolgen und Pflichten erst zuordnen, wenn konkrete Bestimmungen vorliegen, statt auf Grundlage der heutigen Ankündigung ein ganzes Compliance-Paket vorab zu kaufen.
Geltungsbereich: ein britisches Paket, keine weltweite Regel
Dieses Paket bindet das britische Regierungssystem und seine kritischen Dienste, und seine gesetzgeberischen Elemente befinden sich noch in der Prüfung; es begründet keine unmittelbare Pflicht für Unternehmen außerhalb Großbritanniens. Es mit den jeweils eigenen KI-Regeln der Vereinigten Staaten und der Europäischen Union zu einem einzigen westlichen Standard zu vermischen, würde Entscheidungen in die Irre führen. Was sich übertragen lässt, ist die Methode: erst die eigenen Systeme mit KI prüfen, dann einen eigenen Vorfallsprozess für den Kontrollverlust von Agenten vorbereiten und erst dann über Gesetze sprechen — die Reihenfolge selbst ist ein Compliance-Fahrplan.
