Am 16. November hat OpenAI die erste Phase eingebetteter Bewertungen angekündigt und Vereinbarungen mit vier unabhängigen Prüfern geschlossen — Apollo Research, METR, Transluce und Goodfire. Externe Fachleute sollen direkt bei OpenAI arbeiten und mit Zugängen, die denen der eigenen Forscher nahekommen, prüfen, ob die Modelle ausgerichtet sind und ob die Sicherheitsmaßnahmen tatsächlich greifen. Es ist das erste Mal, dass OpenAI eine Bewertung durch Dritte so tief in den Trainingsprozess und die internen Systeme vordringen lässt; die Ergebnisse werden veröffentlicht.
Jeder Prüfer deckt ein anderes Feld ab. Apollo Research soll prüfen, ob Modelle heimlich gegen die Absichten ihrer Entwickler arbeiten könnten, und in zwei Stufen vier Behauptungen verifizieren — unter anderem, ob das Training ein solches Verhalten begünstigt hat und ob bestehende Red-Team-Tests es aufdecken können. METR übernimmt die schwerste Aufgabe: zu bewerten, ob OpenAIs bislang größter Reinforcement-Learning-Lauf fehlausgerichtetes Verhalten enthält, das bestehende Tests und Monitore übersehen haben, und zugleich einen weiteren Belastungstest der Überwachungssysteme durchzuführen. Transluce prüft die Qualität und Abdeckung der Alignment-Bewertungen nach dem Training; für Anfang 2027 ist eine etwa achtwöchige Folgeprüfung geplant. Goodfire entsendet Interpretierbarkeitsforscher vor Ort, die mit der eigenen Plattform das Innere der Modelle analysieren und die Überwachung und Fehlersuche bei Trainingsläufen begleiten.
Tiefe Zugänge bringen entsprechende Regeln mit sich. Wer mit sensiblen Informationen arbeitet, muss vor Ort in OpenAI-Büros und auf von OpenAI gestellten Geräten arbeiten; der Sicherheits- und Sicherheitsausschuss von OpenAI erhält ungeschwärzte Berichte, und die Prüfer können direkt mit ihm sprechen. Bei Meinungsverschiedenheiten sollen zunächst die Safety Advisory Group und die Geschäftsführung innerhalb einer Frist eine Lösung finden; bleibt sie aus, entscheidet der Ausschuss. Die Prüfer dürfen ihre Schlussfolgerungen unabhängig veröffentlichen, während OpenAI das Recht behält, vertrauliche Informationen zu schwärzen, und bei Sicherheitsrisiken um eine verantwortungsvolle Verzögerung der Offenlegung bitten kann.
Entscheidend ist nicht ein einzelner Bericht, sondern dass die Lücke zwischen Sicherheitsversprechen und unabhängiger Prüfung geschlossen wird: Bislang haben Dritte meist nur veröffentlichte Modelle getestet; jetzt können sie den Trainingsprozess selbst beobachten. Die Grenzen sind ebenso klar: Es liegen noch keine Ergebnisse vor, OpenAI hält den Rotstift in der Hand, und die Tiefe der Prüfung hängt letztlich davon ab, wie viel das Unternehmen zu öffnen bereit ist. Auch Anthropic hat seine eigenen Sicherheitsprozesse zuletzt verschärft und die Frist für die Offenlegung von Schwachstellen von 90 auf 30 Tage verkürzt. Auch Berichte zur Modellsicherheit selbst können Streit auslösen — der Sicherheitsbericht zu Gemini 4 sorgte für Kontroversen. Nach Angaben von OpenAI erfüllen die eingebetteten Bewertungen zugleich die Zusagen aus dem White-House-Abkommen zur Superintelligenz, Sicherheitskontrollen unabhängig bewerten zu lassen.