Le 12 octobre 2026, le Cabinet Office britannique a annoncé un ensemble de mesures de sécurité de l'IA articulé autour de deux axes : utiliser l'IA de pointe pour repérer les vulnérabilités des systèmes gouvernementaux, et préparer des réponses et des options législatives pour les incidents graves impliquant des agents d'IA qui échappent à tout contrôle. L'annonce a été faite conjointement par le Cabinet Office, l'AI Security Institute britannique, le National Cyber Security Centre et d'autres organismes ; le ministre de l'IA, Kanishka Narayan, l'a présentée le même jour à Base One, l'incubateur de l'Imperial College de Londres. Cet ensemble mérite l'attention, mais il doit être lu avec soin : il mêle des travaux déjà en cours et des options qui en sont encore au stade de l'examen, et il ne faut pas les fondre en une seule obligation déjà en vigueur.
D'abord, distinguer ce qui est en cours de ce qui est encore à l'étude
Deux chantiers sont déjà en mouvement : l'extension des projets pilotes de cyberdéfense fondés sur l'IA de pointe, et les évaluations rigoureuses de la dernière génération de modèles menées par l'AI Security Institute. Trois chantiers sont encore à l'étude : un renforcement de la protection par le Cyber Security and Resilience Bill et le régime plus large, un cadre de réponse aux incidents impliquant des agents d'IA, et le détail du soutien aux travaux de vérification de l'IA. Le message du ministre aux entreprises de pointe — écouter les scientifiques quand ils alertent sur des dangers graves, enquêter sur les comportements inattendus, et ne pas publier un système dont les risques ne peuvent pas être maîtrisés de façon adéquate — est une déclaration publique, et non une obligation déjà inscrite dans la loi. Prendre des déclarations pour des articles de loi, et des examens pour des règles promulguées, est la manière la plus simple de mal lire cette annonce.
L'IA de pointe retournée contre les vulnérabilités : plus de 1 000 déjà corrigées dans les pilotes
Selon le gouvernement, deux projets pilotes ont déjà aidé à repérer et à corriger plus d'un millier de vulnérabilités cyber potentielles dans les systèmes gouvernementaux, et à détecter des menaces cyber potentielles. Étendre ce travail vise directement à protéger les services publics dont les gens dépendent chaque jour : réduire les risques à court terme et soutenir, à plus long terme, une adoption plus sereine de l'IA dans le secteur public. Le chiffre vient du gouvernement lui-même et désigne des vulnérabilités potentielles, et non des intrusions déjà survenues ; ce qui a été corrigé correspond au périmètre couvert par les pilotes, et non à l'ensemble des systèmes gouvernementaux britanniques. L'intérêt de l'approche par pilotes est de commencer à utiliser les modèles de pointe comme outil de défense dès maintenant, plutôt que d'attendre qu'un standard d'évaluation parfait soit achevé.
Pourquoi les incidents impliquant des agents font l'objet d'un chantier propre
L'annonce isole les incidents impliquant des agents d'IA parce qu'ils diffèrent des cyberincidents classiques. Les agents peuvent accomplir des tâches complexes avec peu de supervision humaine, et le gouvernement estime qu'un incident majeur impliquant des agents pourrait se dérouler plus vite et plus largement que les incidents majeurs auxquels les gouvernements sont habitués à répondre, exigeant de nouvelles expertises et capacités. Le risque de perte de contrôle de l'IA nommé dans l'annonce désigne des systèmes d'IA autonomes qui échappent à la supervision humaine. S'y ajoute la question de savoir comment les incidents graves liés à l'IA et les quasi-incidents peuvent être identifiés et signalés, afin que les leçons soient tirées rapidement plutôt qu'au seul moment d'un retour d'expérience. Le National Cyber Security Centre et l'AI Security Institute travaillent sur ce cadre de réponse ; les détails restent à définir avec les parlementaires, les experts techniques et les opérateurs qui auraient à le mettre en œuvre.
Qui est concerné, et que peut-on faire dès maintenant
Les plus directement concernés sont les ministères britanniques, les services publics et les services essentiels comme les hôpitaux et les services publics d'infrastructure ; viennent ensuite les développeurs de modèles de pointe, qui ont reçu une attente publique claire mais ne font pas encore face à une nouvelle obligation légale. Pour les entreprises actives en Grande-Bretagne, ou qui fournissent le gouvernement britannique, quatre mesures sont possibles dès maintenant. Premièrement, inscrire les incidents impliquant des agents dans le processus existant de réponse aux cyberincidents, au lieu de rédiger un manuel séparé réservé aux robots conversationnels. Deuxièmement, conserver les journaux d'exploitation des agents et les comptes rendus de quasi-incidents, car l'orientation de l'annonce suggère que les quasi-incidents pourraient devoir, à terme, être identifiables et signalables. Troisièmement, intégrer des coupe-circuits dans les opérations autonomes, en gardant une confirmation humaine pour les actions lourdes de conséquences, afin de pouvoir arrêter le processus en cas de perte de contrôle. Quatrièmement, suivre le détail du Cyber Security and Resilience Bill au fur et à mesure, et ne rattacher des obligations qu'une fois des dispositions précises connues, plutôt que d'acheter dès aujourd'hui un ensemble complet de conformité sur la seule base de cette annonce.
Périmètre : un ensemble britannique, et non une règle mondiale
Cet ensemble engage le système gouvernemental britannique et ses services essentiels, et ses éléments législatifs en sont encore au stade de l'examen ; il n'impose aucune obligation directe aux entreprises situées hors de Grande-Bretagne. Le fondre avec les règles d'IA propres aux États-Unis et à l'Union européenne en un seul standard occidental induirait les décisions en erreur. Ce qui se transpose, c'est la méthode : d'abord examiner ses propres systèmes avec l'IA, puis préparer un processus d'incident dédié à la perte de contrôle des agents, et seulement ensuite parler de législation — l'ordre lui-même constitue une feuille de route de conformité.
