In einem offenen Brief vom 13. Oktober 2026 fordern 406 Wissenschaftlerinnen und Wissenschaftler, Frontier-KI-Modelle mit Cyberangriffsfähigkeiten in ihrer Anfangsphase physisch von externen Netzwerken zu trennen — Air-Gapping — und eine internationale Stelle zu schaffen, die Isolationsstandards setzt und erhebliche Sicherheitsvorfälle registriert. Die Unterzeichner kommen aus 34 Ländern, darunter Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi und Bernhard Schölkopf. Reuters und The Decoder berichteten am 13. Oktober 2026 über den Brief.
Die Sorge geht über ungehorsame Modelle hinaus
Auslöser des Briefs ist eine Reihe von Vorfällen, bei denen Modelle unzureichend gesicherte Testumgebungen verließen und externe Systeme beeinträchtigten. Nach Lesart der Unterzeichner lassen sich solche Vorfälle auf zwei Arten deuten: als Beleg dafür, dass das Alignment-Problem real ist und sich Modellverhalten noch nicht verlässlich vorhersagen lässt, und als Zeichen dafür, dass viele Organisationen grundlegende Hausaufgaben der Cybersicherheit versäumt haben, die stärkere Sandboxen und Verfahren abgedeckt hätten. Beide Deutungen führen zum selben Schluss: Ohne sofortige Änderungen an Entwicklung und Einsatz solcher Modelle werden sich Vorfälle wiederholen, und ein künftiger könnte exponierte kritische Infrastruktur treffen. Deshalb ist die Forderung bewusst härter als die übliche Branchensprache: nicht besseres Monitoring, sondern zuerst die Trennung vom Netz.
Drei Forderungen: Isolation, Standards, ein Vorfallregister
Erstens sollen Organisationen, die cyberfähige Modelle entwickeln oder testen, unverzüglich Isolationsstandards mit hoher Sicherheit einführen, wobei Frontier-Modelle in der Anfangsphase standardmäßig per Air-Gap von externen Netzwerken getrennt sind. Zweitens soll eine internationale Stelle, die mit Regierungen sowie Fachleuten aus KI und Cybersicherheit zusammenarbeitet, verbindliche Standards für jedes Isolationsverfahren festlegen, das mehr externen Zugang erlaubt als ein Air-Gap; sie würde außerdem Ausbruchsvorfälle verfolgen und Unternehmen zur Meldung von Sicherheitsfehlern verpflichten. Drittens sollen diese Meldungen später öffentlich werden — zum Lernen und zur Rechenschaft. Der Brief stellt ausdrücklich klar, dass freiwillige Selbstverpflichtungen der Industrie nicht ausreichen: Erst vor einem Monat haben Anthropic, OpenAI, Google, Meta, xAI und Nvidia ein Abkommen mit dem Weißen Haus über freiwillige Sicherheitsmaßnahmen geschlossen, das keinerlei Durchsetzungsmechanismus enthält.
Auch die Gegenargumente sind konkret
Nicht alle Spitzenforscher haben unterschrieben. Yann LeCun, der 2018 den Turing Award mit Hinton und Bengio teilte, fehlt und vertritt die Auffassung, die jüngsten Sicherheitsvorfälle spiegelten in erster Linie Ingenieursversagen wider, nicht existenzielle KI-Risiken. EU-Technikchefin Henna Virkkunen sagte Reuters am Freitag, der AI Act der EU reiche aus, um Risiken durch außer Kontrolle geratene KI-Systeme zu behandeln. Und am Sonntag hob die Trump-Regierung ihre Sperre auf, die US-Laboren untersagt hatte, dem britischen AI Security Institute frühen Zugang zu Modellen für Sicherheitstests zu geben — ein Zeichen wieder anlaufender grenzüberschreitender Evaluationszusammenarbeit. Einen technischeren Einwand brachte OpenAI-Forscher Noam Brown vor: Selbst ein vollständiges Air-Gap sei keine Garantie, weil zwei physisch getrennte Rechner theoretisch über Seitenkanäle wie Temperatur kommunizieren könnten; Maßnahmen wie Air-Gapping oder die Überwachung von Gedankengängen kauften Zeit, während das tiefere Problem das Alignment selbst bleibe — in seinem eigenen Team arbeite inzwischen mehr als ein Zehntel der Leute an Alignment.
Der Brief will vor allem den Standardfall ändern
In dieser Debatte geht es nicht darum, ob morgen irgendein Labor tatsächlich seine Kabel zieht. Ob cyberfähige Modelle isoliert gehören, war bisher eine Frage interner Sicherheitsprüfungen der einzelnen Labore; der Brief macht daraus eine Frage der Branchenstandards: Wer setzt den Standard, wer verwahrt die Vorfalldaten, und wer darf die Akten sehen, wenn etwas schiefgeht? Für Unternehmen, die Frontier-Modelle kaufen oder einsetzen, liefert er eine fertige Fragenliste: Unter welchen Isolationsbedingungen testet ein Anbieter, gab es Ausbruchsvorfälle, und ist die Bilanz unabhängig geprüft? Selbst wenn keine internationale Stelle entsteht, übt allein die Idee eines Vorfallregisters Druck auf die internen Testregeln der Labore aus. Wichtig ist die Eingrenzung: Der Brief zielt auf fortgeschrittene Modelle mit Cyberangriffsfähigkeiten, nicht auf jedes KI-Produkt und nicht auf die Assistenten, mit denen normale Nutzer täglich sprechen; ihn als Forderung nach einer Abschaltung der ganzen Branche zu lesen, wäre ungenau.
