2026年10月12日、英国内閣府は AI 安全対策のパッケージを発表しました。柱は二つあります。フロンティア AI を政府システムの脆弱性発見に使うことと、エージェントの制御喪失のような重大事案に備えた対応策と立法の選択肢を用意することです。発表は内閣府、英国 AI 安全研究所、国家サイバーセキュリティセンターなどが連名で行い、同日、AI 担当大臣 Kanishka Narayan がロンドンのインペリアル・カレッジの Base One インキュベーターで説明しました。この対策は注目に値しますが、読み方には注意が必要です。すでに動いている取り組みと、まだ「検討中」の選択肢が混ざっており、両者を混同して施行済みの義務のように扱ってはいけません。
まず分ける：進行中のものと検討中のもの
すでに進んでいるのは二つです。フロンティア AI によるサイバー防御パイロットの拡大と、AI 安全研究所による最新世代モデルへの厳格な評価です。まだ検討段階なのは三つあります。サイバーセキュリティ・レジリエンス法案とより広い制度を通じた保護の強化、エージェント事案への対応策、そして AI 検証への支援の詳細です。フロンティア企業への大臣のメッセージ――科学者が重大な危険を警告したら耳を傾け、予期せぬ挙動を調査し、リスクを十分に制御できないシステムは公開するな――は公の発言であって、すでに法律に書き込まれた義務ではありません。発言を法条とみなし、検討を施行済みとみなすことが、この発表の最も読み誤りやすい点です。
フロンティア AI を脆弱性探しに転用：パイロットで 1000 件超を修正済み
政府によれば、二つのパイロットはすでに政府システム全体で 1000 件を超える潜在的なサイバー脆弱性の発見と修正に役立ち、潜在的なサイバー脅威の検出にもつながりました。この取り組みを拡大する直接の目的は、人々が毎日頼りにする公共サービスを守ることです。短期的にはリスクを下げ、長期的には公共部門での AI 採用をより安心できるものにします。この数字は政府自身の説明によるもので、「潜在的な脆弱性」であって、すでに起きた侵入事件ではありません。修正されたのはパイロットが対象とした範囲であり、英国の政府システム全体が洗い出されたわけではありません。パイロット方式の意義は、完璧な評価基準が整うのを待つのではなく、フロンティアモデルを防御ツールとしてまず使い始めることにあります。
エージェント事案を別立てにする理由
発表がエージェントが関わる事案を別立てにしたのは、従来のサイバー事案と性質が違うからです。エージェントは人の監督をほとんど受けずに複雑な作業をこなすことができ、政府の判断では、エージェントが関わる重大事案は、政府が対応を想定してきた重大事案よりも速く、より広く展開する可能性があり、新たな専門知識と対応能力が必要になります。発表で言及された「AI の制御喪失リスク」とは、自律型 AI システムが人の監督を逃れる事態を指します。あわせて、重大な AI 事案やニアミスをどう特定し報告するかも課題となり、教訓を事案の振り返りを待たずに素早く学べるようにします。国家サイバーセキュリティセンターと AI 安全研究所がこの対応策を検討中で、詳細は議員、技術専門家、実際に運用を担う事業者とともに詰めていくことになります。
影響を受けるのは誰か、今できることは何か
最も直接影響を受けるのは、英国の政府部門、公共サービス、病院や公益事業のような基幹サービスです。次にフロンティアモデルの開発企業で、明確な公の期待を受けていますが、まだ新しい法定義務には直面していません。英国で事業を行う企業や英国政府に納入する企業が今できることは四つあります。第一に、エージェント事案を既存のサイバー事案対応プロセスに組み込むこと。チャットボット専用の別マニュアルを作るのではありません。第二に、エージェントの操作ログとニアミスの記録を残すこと。発表の方向性から見て、ニアミスもいずれ特定・報告できる必要が生じる可能性があります。第三に、自律的な操作にサーキットブレーカーを設け、重要な操作には人の確認を残し、制御を失ったときに止められるようにすること。第四に、サイバーセキュリティ・レジリエンス法案の詳細を追い、具体的な条項が出てから義務を対応づけること。今日の発表だけを根拠に「コンプライアンス一式」を先に買うべきではありません。
適用範囲：英国のパッケージであり、世界共通のルールではない
このパッケージの拘束対象は英国の政府システムと基幹サービスであり、立法面の内容はまだ検討段階です。英国以外の企業に直接の義務を課すものではありません。これを米国や欧州連合のそれぞれの AI ルールと混ぜて一つの「西側共通基準」とみなすと、判断を誤らせます。持ち運べるのは方法です。まず AI で自組織のシステムを点検し、次にエージェントの制御喪失に備えた専用の事案対応プロセスを用意し、最後に立法を語る――この順序そのものがコンプライアンスの道筋です。
