Les défenses contre la distillation adverse se renforcent : le 20 novembre, OpenAI a publié le détail des défenses contre la distillation adverse dans GPT-6.2. La distillation adverse consiste à utiliser les sorties d'un modèle de pointe pour entraîner un autre modèle, en transférant la capacité sans les protections. Dans les tests internes en équipe rouge d'OpenAI, le taux de réussite de l'extraction du raisonnement protégé à partir d'une requête antérieure est passé de 54,0 % sur GPT-6 Astra à 0,2 % sur GPT-6.2 Astra.
Les défenses fonctionnent sur deux niveaux :
- Niveau requête : l'entraînement adverse apprend au modèle à refuser de révéler le raisonnement protégé ; des classifieurs d'entrée et de sortie examinent à la fois les réponses et les arguments des appels d'outils et bloquent les tentatives d'extraction ; des contrôles d'API empêchent les anciens modèles de lire le raisonnement protégé ; et le raisonnement est lié à l'historique de conversation qui l'a produit, de sorte que si un message antérieur est réécrit, l'API supprime le raisonnement qui suit.
- Niveau campagne : OpenAI bannit chaque semaine des milliers à des dizaines de milliers de comptes soupçonnés de participer à des campagnes d'extraction, avec une fréquence en forte hausse depuis cet été, et partage des indicateurs de compromission avec d'autres fournisseurs de modèles.
Comment lire le chiffre de 0,2 %
Ce chiffre appelle deux réserves. D'abord, il s'agit de l'évaluation interne adaptative en équipe rouge d'OpenAI, où les attaquants ne voient que ce qu'un utilisateur ordinaire verrait, et aucune reproduction indépendante n'existe encore. Ensuite, 0,2 % mesure si une tentative d'extraction réussit, et non dans quelle mesure un modèle élève devient finalement plus fort grâce au raisonnement volé. La conclusion d'OpenAI elle-même laisse une marge : protéger les traces de raisonnement peut limiter le transfert de capacités cybernétiques, même lorsque la tâche sous-jacente est autorisée par ses règles d'usage — la défense vise la fuite de capacités, pas la tâche elle-même.
Le contexte est familier. Auparavant, DeepSeek et Moonshot AI ont été accusés d'entraîner de nouveaux modèles en distillant les sorties de GPT-6 Astra, et Anthropic a publié à peu près au même moment ses propres défenses contre la distillation — voir Les défenses d'Anthropic contre la distillation portent leurs fruits : le raisonnement extrait de Claude tombe à une fraction de son niveau. Selon OpenAI, certaines améliorations sont aussi appliquées à GPT-6 Astra. Ce qui compte désormais, c'est la durée pendant laquelle ces défenses tiendront face à des attaques réelles, et si d'autres fournisseurs suivront avec le même type de divulgation.