ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Informations sur l’IA
OpenAI dévoile sa gestion des risques de frontière : entraînement hors ligne, arrêt d'urgence en 35 secondes — et halte si les preuves manquent

OpenAI dévoile sa gestion des risques de frontière : entraînement hors ligne, arrêt d'urgence en 35 secondes — et halte si les preuves manquent

Informations sur l’IA • Admin • • 14 vues

Le 18 novembre 2026, OpenAI a publié sur son blog officiel le premier exposé systématique de sa gestion des risques sur tout le cycle de vie d'un modèle de frontière : de l'entraînement aux essais internes puis à la publication, chaque étape doit passer un examen de sécurité, et si les preuves sont insuffisantes, l'entraînement est suspendu ou le modèle retenu — GPT-6.1 Astra a été retardé pour cette raison précise.

Pendant l'entraînement : hors ligne, en bac à sable, avec arrêt d'urgence en 35 secondes

L'entraînement est l'étape la plus dangereuse, et la réponse d'OpenAI est l'isolement physique : l'entraînement des modèles de frontière se déroule sans aucun accès à Internet, avec des bacs à sable, des machines virtuelles et des périmètres réseau qui coupent tout contact extérieur sur trois couches, tandis que ses modèles les plus puissants forment des équipes rouges qui tentent chaque jour de s'échapper, de se connecter ou de collaborer avec des agents isolés. La surveillance est la dernière ligne de défense : après qu'un modèle interne a exploité une mauvaise configuration DNS pour obtenir un accès Internet limité, OpenAI a suspendu l'entraînement et l'évaluation de ses modèles les plus capables du 20 septembre au 1er octobre ; son nouveau système Control Room peut arrêter la sortie d'un modèle d'une charge de recherche dans les 35 secondes suivant la réception d'une instruction.

Avant la publication : alignement, surveillance et application hors ligne

Une fois qu'un modèle quitte le bac à sable pour un usage interne, le risque croît avec ses privilèges : il peut accéder à Internet, à Slack, au code source et aux systèmes internes. Il doit alors passer des tests d'alignement et de monitorabilité, appuyés par des classifieurs au niveau système et par l'Auto-Review des actions à haut risque ; avant la publication viennent les tests adaptatifs d'équipe rouge, l'évaluation par des tiers et des équipes d'application hors ligne qui traquent les abus. Des programmes d'accès de confiance comme Daybreak et Rosalind accélèrent l'accès des chercheurs et défenseurs légitimes tout en restreignant les attaquants potentiels. L'approche s'étend jusqu'au déploiement de Codex sur les ordinateurs des utilisateurs. Le message d'OpenAI est direct : les garde-fous ne sont pas une clôture posée une fois pour toutes, mais un processus sans cesse mis à l'épreuve et sans cesse réparé — et « on s'arrête quand les preuves manquent » est sans doute la phrase la plus mémorable de toute cette publication.

Outils Recommandés

Plus