SAFA – der vorläufige Name lautet Standards Authority for Frontier AI (Normungsbehörde für Frontier-KI) – wurde am 24. September durch einen Bericht von The Information bekannt: OpenAI, Anthropic und Google bauen gemeinsam eine Behörde für KI-Sicherheitsstandards auf, mit dem Ziel eines formellen Starts Ende dieses oder Anfang nächsten Jahres. Es wäre der erste Versuch der drei Frontier-Labore, „Selbstregulierung der Branche" in eine Organisation mit Substanz zu verwandeln, statt es bei einer gemeinsamen Erklärung zu belassen.
Was die Behörde leisten soll
Laut The Information, das sich auf mit der Sache vertraute Personen beruft, ist SAFA dem Selbstregulierungsmodell der Finanzbranche nachempfunden: von der Industrie finanziert, unabhängig operierend. Zu den Kernaufgaben gehören die Unterstützung unabhängiger Organisationen, die Modelle vor der Einführung testen, Regeln für die Meldung von KI-Sicherheitsvorfällen, die Konkretisierung der freiwilligen Sicherheitszusagen der Labore sowie Qualifikationsanforderungen für unabhängige Prüfer von Modellen und Laboren. In der Arbeitsgruppe wird sogar eine weitergehende Option diskutiert – ob SAFA die Sicherheit und die Fähigkeiten von Frontier-Modellen selbst testen sollte.
Bemerkenswert ist, dass die drei Unternehmen 2023 gemeinsam mit Microsoft bereits das Frontier Model Forum gegründet haben, dessen Ziele sich stark überschneiden. Dem Bericht zufolge steht die neue Behörde mit dem Forum in Kontakt, eine künftige Zusammenarbeit ist möglich – de facto entstünde neben dem bestehenden Forum eine zweite, durchsetzungsstärkere Einheit.
Von der öffentlich-privaten Partnerschaft zum Alleingang
Der Schwenk zu SAFA hat einen direkten Hintergrund: Ursprünglich strebten die drei Unternehmen ein öffentlich-privates Partnerschaftsmodell an, doch diese Bemühungen kamen unter der Trump-Regierung zum Erliegen. Gleichzeitig zeigt sich Washington neuen bundesstaatlichen KI-Regulierungen gegenüber ablehnend – Trump selbst wies in seiner Rede vor der UN-Vollversammlung jeden „Versuch, eine globalistische KI-Kontrollagenda aufzubauen" zurück, und der Wissenschaftsberater des Weißen Hauses sprach sich beim KI-Briefing des UN-Sicherheitsrats offen gegen eine Beschränkung der KI durch neue globale Governance-Strukturen aus.
Mit anderen Worten: Da von der Bundesebene auf absehbare Zeit nichts zu erwarten ist, haben die drei Labore beschlossen, die Regeln vorerst selbst zu schreiben. Google-DeepMind-Chef Demis Hassabis hatte bereits im Juli ein Konzept nach dem Vorbild der US-Finanzaufsicht FINRA öffentlich vorgestellt, und OpenAI bestätigte später, seit mehreren Wochen mit Anthropic und Google an KI-Sicherheit zu arbeiten. Der Bericht von The Information hebt die Geschichte von der Gerüchte- auf die „Name, Personen, Zeitplan"-Ebene – unter anderem habe die Arbeitsgruppe mit der Suche nach einem CEO begonnen; der frühere KI-Politikberater der Trump-Regierung, Sriram Krishnan, und die frühere Leiterin des Wissenschaftsbüros des Weißen Hauses unter Biden, Arati Prabhakar, würden als Kandidaten gehandelt.
Der größte Streitpunkt: Zertifiziert der Schiedsrichter nur die eigenen Leute?
Die Kritik konzentriert sich auf zwei Punkte. Erstens die Exklusivität: Eine von drei Closed-Model-Giganten dominierte Normungsbehörde könnte Open-Source-Entwickler und kleinere Wettbewerber ausschließen – wird das „Bestehen des Tests" zur faktischen Markteintrittsvoraussetzung, werden die Compliance-Kosten selbst zum Burggraben. Zweitens die Glaubwürdigkeit: Selbstregulierung ohne staatliche Aufsicht hat keine gute Bilanz. PYMNTS wies in seiner Nachberichterstattung auf eine jüngste Häufung von Fällen hin, in denen Frontier-Modelle ohne Autorisierung auf fremde Systeme zugriffen und Unternehmen dies nicht vollständig offenlegten – genau das Meldeproblem, das SAFA zu lösen verspricht.
Die andere praktische Frage ist die Durchsetzungskraft. Das dem Handelsministerium unterstellte Center for AI Standards and Innovation (CAISI) evaluiert Modelle bereits vor der Veröffentlichung, doch dem Bericht zufolge halten einige in der Arbeitsgruppe dessen Ressourcen für unzureichend, um Frontier-Modelle abzudecken – daher die Debatte, ob SAFA selbst testen sollte.
Für Entwickler und Unternehmenskunden zählen nicht die Slogans der Behörde, sondern zwei Dinge: ob unabhängige Tests vor der Einführung zur faktischen Voraussetzung für einen Release werden und wie hoch die Hürde für die Prüferqualifikation gelegt wird. Wenn beides festgezurrt wird, prägt das direkt Release-Rhythmen und Compliance-Kosten kleinerer Teams. Sollte SAFA tatsächlich noch in diesem Jahr an den Start gehen, könnte der Modell-Release-Fahrplan 2027 ganz anders aussehen als heute.
