Am 9. November haben sechs Regierungen und zehn KI-Unternehmen in Paris eine gemeinsame Erklärung zur Sicherheit und Security von KI unterzeichnet und sich zu gemeinsamen Bewertungsstandards, unabhängiger Aufsicht und Fail-safe-Kontrollen für die fortschrittlichsten Modelle verpflichtet. Die Erklärung wurde vom Élysée-Palast und dem Büro des kanadischen Premierministers veröffentlicht; die niederländische Regierung stellte den vollständigen Text am 10. November auf ihre Website. Nach dem Gipfel in Seoul ist es das zweite Mal in diesem Jahr, dass Regierungen und führende Modellentwickler auf dieselbe Sicherheitsverpflichtung gebracht wurden.
Die unterzeichnenden Regierungen sind Bahrain, Kanada, Finnland, Frankreich, Norwegen und die Niederlande; auf Unternehmensseite stehen Anthropic, Microsoft, OpenAI, Mistral AI, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI und Synthesia, dazu vier zivilgesellschaftliche Organisationen, und die Erklärung bleibt offen für weitere Unterzeichner. Die Kernverpflichtungen sind vier: nicht sensible Bewertungsergebnisse in einem gemeinsamen Format teilen; Systeme für die Meldung von Vorfällen und Frühwarnung aufbauen; bekannte Risiken offenlegen; und Modelle mit Fail-safe-Mechanismen ausstatten, also der Fähigkeit, den Betrieb von Modellen im eigenen Kontrollbereich bei Bedarf abzuschalten. Die Regierungen versprachen ihrerseits, Hinweisgeber im Bereich KI-Sicherheit zu schützen.
Die Erklärung kommt nicht aus dem Nichts. Sie knüpft ausdrücklich an den Hiroshima-Prozess, die Frontier Safety Commitments des KI-Gipfels von Seoul, das G7-Treffen zu KI in Évian und die Sitzung des UN-Sicherheitsrats zu KI vom 23. September an. Die dahinterstehende Einschätzung ist offen formuliert: Die Auswirkungen von Frontier-Modellen überschreiten Grenzen, und kein einzelnes Land, Unternehmen oder internationale Organisation kann die Risiken allein bewältigen. Ein aufschlussreicher Vergleich ist OpenAIs kürzlich offengelegtes internes System Control Room, das nach einer Entscheidung zum Eingreifen innerhalb von 35 Sekunden das gesamte Training von Forschungsmodellen stoppen kann – genau die Art von „Fähigkeit anzuhalten", die die Erklärung von jedem Entwickler verlangt.
Die Bindungswirkung der Erklärung bleibt jedoch abzuwarten. Es handelt sich um eine politische Verpflichtung, keinen Vertrag, und sie sagt nichts über Folgen bei Nichteinhaltung; die Umsetzung hängt davon ab, was jedes Unternehmen und jede Regierung als Nächstes tut. Auch nationale Gesetzgebung bewegt sich in dieselbe Richtung: Australien hat kürzlich Regeln für Frontier-KI vorgeschlagen, die Unternehmen zu schneller Meldung von Vorfällen verpflichten und eine eigene Regulierungsbehörde vorsehen. Der Wert der Erklärung liegt eher darin, eine gemeinsame Richtung vorzugeben: Bewertungsstandards, Vorfallmeldungen und Notabschaltung werden zur Standardausstattung der Governance von Frontier-Modellen.
