Die Verteidigung gegen adversariale Destillation wird stärker: Am 20. November hat OpenAI Details zu den Abwehrmaßnahmen in GPT-6.2 veröffentlicht. Adversariale Destillation bedeutet, die Ausgaben eines Spitzenmodells zu nutzen, um ein anderes Modell zu trainieren – die Fähigkeiten werden übertragen, die Schutzmaßnahmen bleiben zurück. In OpenAIs internen Red-Team-Tests fiel die Erfolgsquote für die Extraktion geschützten Reasonings aus einer früheren Anfrage von 54,0 % bei GPT-6 Astra auf 0,2 % bei GPT-6.2 Astra.
Die Verteidigung arbeitet auf zwei Ebenen:
- Anfrageebene: Adversariales Training bringt dem Modell bei, die Offenlegung geschützten Reasonings zu verweigern; Eingabe- und Ausgabeklassifikatoren prüfen Antworten und Tool-Aufrufparameter und blockieren Extraktionsversuche; API-Kontrollen hindern ältere Modelle daran, geschütztes Reasoning zu lesen; und das Reasoning ist an den Gesprächsverlauf gebunden, der es erzeugt hat – wird eine frühere Nachricht umgeschrieben, verwirft die API das nachfolgende Reasoning.
- Kampagnenebene: OpenAI sperrt jede Woche Tausende bis Zehntausende Konten, die mutmaßlich an Extraktionskampagnen beteiligt sind – die Häufigkeit ist seit diesem Sommer deutlich gestiegen – und teilt Kompromittierungsindikatoren mit anderen Modellanbietern.
Wie die Zahl 0,2 % zu lesen ist
Die Zahl braucht zwei Vorbehalte. Erstens handelt es sich um OpenAIs interne adaptive Red-Team-Bewertung, bei der Angreifer nur sehen, was ein gewöhnlicher Nutzer sehen würde, und eine unabhängige Replikation durch Dritte steht noch aus. Zweitens misst 0,2 %, ob ein Extraktionsversuch gelingt, nicht wie viel stärker ein Schülermodell durch gestohlenes Reasoning letztlich wird. Auch OpenAIs eigene Schlussfolgerung lässt Spielraum: Der Schutz von Reasoning-Spuren kann den Transfer von Cyber-Fähigkeiten begrenzen, selbst wenn die zugrunde liegende Aufgabe nach den Nutzungsbedingungen erlaubt ist – verteidigt wird gegen den Abfluss von Fähigkeiten, nicht gegen die Aufgabe selbst.
Der Hintergrund ist vertraut. Zuvor wurde DeepSeek und Moonshot AI vorgeworfen, neue Modelle durch Destillation von GPT-6-Astra-Ausgaben zu trainieren, und Anthropic veröffentlichte etwa zeitgleich seine eigenen Destillationsabwehrmaßnahmen – siehe Anthropics Destillationsabwehr wirkt: Aus Claude extrahiertes Reasoning sinkt auf einen Bruchteil. OpenAI zufolge werden ausgewählte Verbesserungen auch auf GPT-6 Astra angewendet. Entscheidend ist nun, wie lange die Verteidigung echten Angriffen standhält und ob andere Anbieter mit einer ähnlichen Offenlegung nachziehen.