Le 9 novembre, six gouvernements et dix entreprises d'IA ont signé à Paris une déclaration conjointe sur la sûreté et la sécurité de l'IA, s'engageant à établir des normes d'évaluation partagées, une supervision indépendante et des contrôles de sécurité intrinsèque pour les modèles les plus avancés. La déclaration a été publiée par le palais de l'Élysée et le Cabinet du Premier ministre du Canada, et le gouvernement néerlandais en a publié le texte intégral sur son site le 10 novembre. Après le sommet de Séoul, c'est la deuxième fois cette année que des gouvernements et de grands développeurs de modèles sont réunis autour d'un même engagement de sécurité.
Les gouvernements signataires sont Bahreïn, le Canada, la Finlande, la France, la Norvège et les Pays-Bas ; côté entreprises, Anthropic, Microsoft, OpenAI, Mistral AI, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI et Synthesia, rejoints par quatre organisations de la société civile, et la déclaration reste ouverte à de nouveaux signataires. Les engagements centraux sont au nombre de quatre : partager les résultats d'évaluation non sensibles dans un format commun ; mettre en place des systèmes de signalement des incidents et d'alerte précoce ; divulguer les risques connus ; et doter les modèles de mécanismes de sécurité intrinsèque, c'est-à-dire la capacité d'arrêter le fonctionnement des modèles relevant de son propre contrôle en cas de besoin. Les gouvernements se sont engagés pour leur part à protéger les lanceurs d'alerte dans le domaine de la sécurité de l'IA.
La déclaration ne sort pas de nulle part. Elle s'inscrit explicitement dans la continuité du processus d'Hiroshima, des engagements de sécurité des modèles de pointe du sommet de Séoul sur l'IA, de la réunion du G7 sur l'IA à Évian et de la réunion du Conseil de sécurité des Nations unies sur l'IA du 23 septembre. Le raisonnement qui la sous-tend est énoncé sans détour : l'impact des modèles de pointe dépasse les frontières, et aucun pays, aucune entreprise ni aucune organisation internationale ne peut gérer seul les risques. Une comparaison utile est le système interne Control Room récemment dévoilé par OpenAI, capable d'arrêter l'entraînement de tous les modèles de recherche dans les 35 secondes suivant une décision d'intervenir — le genre de « capacité d'arrêt » que la déclaration demande à chaque développeur de posséder.
Mais la force contraignante de la déclaration reste à démontrer. Il s'agit d'un engagement politique, non d'un traité, qui ne dit rien des conséquences en cas de non-respect ; la mise en œuvre dépendra de ce que chaque entreprise et chaque gouvernement fera ensuite. Les législations nationales évoluent dans le même sens : l'Australie a récemment proposé des règles pour l'IA de pointe obligeant les entreprises à signaler rapidement les incidents et créant un régulateur dédié. La valeur de la déclaration réside plutôt dans la direction commune qu'elle fixe : normes d'évaluation, signalement des incidents et arrêt d'urgence sont en train de devenir la configuration par défaut de la gouvernance des modèles de pointe.
