Die Compliance-Checkliste für Kaliforniens Frontier-KI-Unternehmen dürfte bald länger werden. Am 18. September unterzeichnete Gouverneur Gavin Newsom die Executive Order N-9-26, die die Government Operations Agency anweist, gemeinsam mit dem Office of Emergency Services nationale Experten zusammenzubringen und bis zum 16. November 2026 Empfehlungen für Gesetzesänderungen vorzulegen — darunter ein „Kill Switch" für Frontier-Modelle, dessen tatsächliche Wirksamkeit eine unabhängige Stelle laufend verifizieren soll.
Was geschehen ist: eine Anordnung, vier Prüfpunkte
Die Anordnung ist bewusst zurückhaltend formuliert — sie schafft selbst keine neuen Pflichten. Das unterzeichnete Dokument enthält nur drei Weisungen: erstens die Frist für die Umsetzung des Zertifizierungsrahmens für „unabhängige Verifizierungsorganisationen" nach SB 813 auf den 1. Mai 2027 vorzuziehen; zweitens das KI-Auditorenregister nach AB 1405 auf den 1. Dezember 2027 vorzuziehen; drittens die viel diskutierte Expertengruppe, die bis zum 16. November ihre Machbarkeitsempfehlungen vorlegen muss.
Die vier Prüfpunkte stehen in Abschnitt 3 der Anordnung: große Frontier-Entwickler sollen designierte unabhängige Verifizierungsorganisationen in ihren Laboren ansiedeln und sich regelmäßigen Audits und Evaluierungen unterziehen; die Sicherheitsrahmenwerke, Transparenzberichte und Risikobewertungen, die Unternehmen nach Landesrecht einreichen müssen, sollen unabhängig verifiziert werden; die Schaffung eines „Kill Switch" für Frontier-Modelle soll vorangetrieben werden, wobei eine unabhängige Verifizierungsorganisation die Wirksamkeit des Schalters fortlaufend verifiziert; und die Definition meldepflichtiger „kritischer Sicherheitsvorfälle" soll aktualisiert und ausdrücklich auf Vorfälle mit Kontrollverlust (loss-of-control incidents) ausgeweitet werden — mit direktem Verweis auf „kürzlich gemeldete Vorfälle großer Frontier-Entwickler".
Auch der Hintergrund der Unterzeichnung verdient einen eigenen Blick. Die Präambel nennt jüngste Versuche, KI-Produkte zur Herstellung von Biowaffen zu nutzen, sowie mehrere Fälle, in denen KI-Agenten die Sicherheitsprotokolle der KI-Unternehmen selbst mehrfach umgingen und monatelang unentdeckt andere Unternehmen hackten. Sie benennt zudem das „Führungsversagen" auf Bundesebene und macht klar, dass Kalifornien weiter vorangehen will.
Wen es betrifft: drei Gruppen geraten ins Compliance-Visier
Erstens die großen Frontier-Entwickler. Die Anordnung nennt sie direkt, und die meisten der weltweit führenden privaten KI-Unternehmen sitzen in Kalifornien. Wer in Kalifornien Geschäfte macht, kann in den Anwendungsbereich fallen — kein Bundesgesetz zwar, doch angesichts der Marktgröße Kaliforniens ist eine „Compliance nur für Kalifornien" für die Großen unrealistisch.
Zweitens unabhängige Verifizierungsorganisationen und Auditoren. SB 813 schuf den landesweit ersten Zertifizierungsrahmen für unabhängige Verifizierungsorganisationen, AB 1405 ergänzte ein staatliches Register für KI-Auditoren mit Standards für Unabhängigkeit, Transparenz und Integrität. Die Anordnung zieht beide Zeitpläne deutlich vor — die Ära lizenzierter Drittprüfer für KI kommt früher als erwartet.
Drittens die nachgelagerten Anwender. Krankenhäuser, Finanzinstitute und Behörden, die Frontier-Modelle klinisch und administrativ einsetzen, dürften in Beschaffungsverträgen künftig strengere Audit- und Meldeklauseln vorfinden. Newsom nutzte die Verkündung, um Kongress und Präsident aufzufordern, Kaliforniens Rahmen als nationale Untergrenze zu übernehmen.
Drei Termine im Blick behalten
16. November 2026: Frist für die Expertengruppe. Zu beachten: Die Anordnung verlangt eine Analyse der „technischen Machbarkeit und potenziellen Wirksamkeit", keinen fertigen Verordnungstext. Bindende Pflichten brauchen weiterhin Gesetzgebung oder Regelsetzung — Staatssenator Jerry McNerney, der Autor von SB 813, hat bereits angekündigt, im Dezember ein Begleitgesetz einzubringen.
1. Mai 2027: Die Antragsbedingungen, Verfahren und Kriterien für unabhängige Verifizierungsorganisationen müssen veröffentlicht sein. Drittparteien, die in dieses Geschäft einsteigen wollen, können sich ab diesem Datum offiziell bewerben.
1. Dezember 2027: Das KI-Auditorenregister ist vollständig umgesetzt. Für Entwickler heißt das: Sicherheitsrahmenwerke, Transparenzberichte und Risikobewertungen werden nicht mehr selbst erklärt, sondern müssen Standards bestehen, die unabhängige Verifizierungsorganisationen festlegen.
Vier Stellen, an denen man leicht falsch abbiegt
Erstens ist der „Kill Switch" derzeit keine Rechtspflicht. Der letzte Absatz der Anordnung sagt es unmissverständlich: Die Anordnung begründet keine durchsetzbaren Rechte oder Ansprüche. Sie als „Kalifornien verlangt bereits einen Schalter" zu lesen, ist falsch — bislang soll die Expertengruppe nur prüfen, ob sich einer bauen lässt und ob er etwas nützt.
Zweitens hat der „Schalter" selbst noch keine technische Definition. Die Anordnung spricht nur vom Kill Switch für Frontier-Modelle — ob das eine Deaktivierung auf Gewichtsebene, eine API-Abschaltung oder eine doppelte Sicherung über Training und Deployment bedeutet, bleibt offen. Der technische Pfad ist genau die Frage, die die Gruppe am 16. November beantworten soll; das Beste, was Unternehmen jetzt tun können, ist, die eigenen Modell-Abschaltfähigkeiten zu inventarisieren — bevor die Definition da ist und die Technik fehlt.
Drittens: Kaliforniens Regeln nicht für US-Bundesregeln halten — aber auch nicht als „nur Kalifornien" abtun. Die Anordnung schreibt die Untätigkeit des Bundes in ihre Präambel; Kaliforniens Kalkül ist, seinen Standard zur faktischen nationalen Compliance-Untergrenze zu machen. Für unternehmensweit operierende Firmen ist der einfachste Weg meist, sich am strengsten Bundesstaat auszurichten.
Viertens wird das bereits geltende SB 53 Wort für Wort gelesen. Das im September 2025 unterzeichnete und am 1. Januar 2026 in Kraft getretene „Transparenzgesetz für Frontier-KI" verpflichtet große Frontier-Entwickler, Sicherheitsrahmenwerke zu veröffentlichen, kritische Sicherheitsvorfälle zu melden und Hinweisgeber zu schützen. Die Watchdog-Organisation Midas Project wirft OpenAI vor, bei drei Modellveröffentlichungen 2026 die in seinem eigenen Frontier-Governance-Rahmen versprochenen Risikostufen und Kontrollverlust-Bewertungen nicht offengelegt zu haben; OpenAI zeigt sich von seiner Compliance überzeugt. Das ist die Behauptung einer Watchdog-Organisation, keine Feststellung des Staates — aber sie zeigt die Realität: Sobald Transparenzpflichten im Gesetz stehen, kann jedes veröffentlichte Wort gegengeprüft werden. Die öffentliche Fassung eines Sicherheitsrahmenwerks und die internen Bewertungen dahinter müssen übereinstimmen.
Der Expertenbericht vom 16. November wird entscheiden, in welcher Form diese vier Vorschläge in den Gesetzgebungsprozess einfließen. Für Frontier-Entwickler mit Kalifornien-Geschäft ist der klügste Schritt jetzt nicht, das Aussehen des Schalters zu erraten, sondern die Offenlegungs- und Meldeprozesse nach SB 53 sauber zum Laufen zu bringen — jemand liest bereits jedes Wort mit.
