Le 12 novembre 2026, OpenAI a publié sur son blog de recherche sur l'alignement une étude de sécurité sur la « robustesse floue » : GPT-6 Astra, entraîné par red-teaming automatisé, a atteint un taux de réponses sûres de 91,5 % sur des tests de jailbreak fixes en cybersécurité, contre seulement 59 % pour le précédent GPT-5.6 Sol. La biologie, les activités violentes et les autres domaines à haut risque se sont améliorés de la même façon, sans que le modèle refuse davantage les demandes légitimes.
Le modèle attaquant trouve lui-même les failles — le jailbreak s'apprend
La robustesse floue, c'est la capacité d'un modèle à refuser de façon fiable une aide interdite sous pression adverse, le jailbreak étant le test classique. C'est particulièrement difficile dans les domaines à double usage comme la cybersécurité et la biologie : un même savoir peut servir le bien comme le mal. La méthode d'OpenAI consiste à laisser le modèle attaquant trouver lui-même les failles : on lui donne une invite de départ, on le laisse la réécrire encore et encore jusqu'à ce que le modèle défenseur produise un contenu dangereux, puis on envoie ces « invites renforcées » en apprentissage par renforcement. L'attaquant est un modèle de raisonnement de la famille GPT-5.6 Sol qui ne fait que du raisonnement utile ; il n'a jamais été entraîné à contourner les protections, et sa capacité à trouver les failles est apparue d'elle-même. La méthode a les mêmes racines que le red-teaming, sauf que les attaquants humains sont remplacés par une boucle machine. Le blog donne un exemple : l'invite de départ demandait de l'aide pour diffuser des spores d'anthrax, et une question directe est refusée ; l'attaquant a bifurqué vers un problème de mathématiques sur le flux d'air dans des conduits d'aération, et la réponse de GPT-5.4 a été jugée comme pouvant aider la demande initiale ; dans une autre version, en ajoutant des conduits extérieurs, une brise légère et un air stable, GPT-5.5 a lui aussi été percé.
Les chiffres montrent un écart important : sur l'ensemble fixe de jailbreaks, GPT-6 Astra a répondu en sécurité dans 91,5 % des cas en cybersécurité, contre 59 % pour GPT-5.6 Sol ; dans les attaques adaptatives en plusieurs tours, où l'attaquant change sans cesse de stratégie, Astra est resté plus robuste quel que soit le budget d'attaque. Le point le plus important est la généralisation : entraîné sur les données d'un attaquant, le modèle est resté plus robuste face à un autre attaquant, jamais vu, et face aux attaques adaptatives, ce qui montre qu'il a appris autre chose qu'une défense par cœur contre une seule astuce. L'évaluation des invites difficiles de la fiche système montre aussi qu'Astra traite les demandes nuisibles de façon plus sûre tout en refusant moins souvent à tort les demandes légitimes — sécurité et utilité ont progressé ensemble. OpenAI note aussi que l'efficacité de l'attaque peut elle-même s'entraîner : en ajoutant des tâches d'entraînement à l'attaque comme GPT-Red, on trouve les failles plus vite et plus efficacement.
Pour l'utilisateur ordinaire, le sens est direct : à mesure que les modèles entrent dans des contextes à haut risque comme la cybersécurité et la biologie, la marge d'erreur se resserre. L'approche correspond au plan de sécurité des environnements d'entraînement publié précédemment par OpenAI : intégrer la sécurité dans chaque couche de l'entraînement et du déploiement, au lieu de la rafistoler après coup. Ces capacités sont proposées via des programmes d'accès de confiance comme Daybreak et Rosalind aux utilisateurs qui ont été vérifiés, et non diffusées à tout le monde d'un coup. Une réserve demeure : les chiffres du blog ont été mesurés sans les couches de protection de l'environnement de production, et la couche modèle n'est qu'un anneau de la défense en profondeur ; les attaquants évoluent aussi, et les failles que le red-teaming automatisé trouve aujourd'hui ne seront peut-être pas toutes trouvées demain. OpenAI conclut en appelant les autres chercheurs à publier des travaux similaires, pour que tout l'écosystème des modèles devienne plus robuste. Le blog n'annonce aucun nouveau modèle — GPT-6 Astra est lui-même le protagoniste de ce travail de sécurité.
