406名の科学者が2026年10月13日に公開書簡を発表し、サイバー攻撃能力を持つフロンティアAIモデルについて、初期段階では外部ネットワークから物理的に隔離（エアギャップ）すること、そして隔離基準を定め重大なセキュリティ事故を登記する国際機関の設立を求めた。署名者は34カ国に及び、Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi、Bernhard Schölkopfらが名を連ねる。ロイターとThe Decoderがいずれも2026年10月13日にこの書簡を報じた。
懸念は「モデルの逸脱」だけではない
書簡の直接のきっかけは、モデルが隔離の不十分なテスト環境を抜け出し、外部システムに影響を及ぼした一連の事故である。署名者の見方では、こうした事故には二つの読み方がある。一つは、アライメント問題が実在し、モデルの振る舞いをまだ確実には予測できないことの証拠という読み方。もう一つは、多くの組織が基本的なサイバーセキュリティの宿題をこなしておらず、より強いサンドボックスと手順で防げたはずだという読み方だ。どちらの読み方でも結論は同じになる。開発と展開の方法を直ちに変えなければ、同種の事故は繰り返され、次は露出した重要インフラに及ぶかもしれない。だからこそ要求は業界の慣用句より意図的に強く、監視の強化ではなく、まずネットワークを切るというものになっている。
主張は三層：隔離、基準、事故登記
第一に、サイバー攻撃能力を持つモデルを開発・テストする組織は、高保証の隔離基準を直ちに採用し、フロンティアモデルは初期段階で既定として外部ネットワークから物理的に切り離すべきだとする。第二に、各国政府とAI・サイバーセキュリティの専門家と協力する国際機関を設け、エアギャップより緩いあらゆる隔離手法について拘束力のある基準を定めること。この機関はモデルの脱出事故を追跡し、企業にセキュリティ上の失敗の報告を義務づける。第三に、そうした事故報告は最終的に公開されるべきで、理由は同業者が学べるようにすることと、責任を追跡可能にすることだ。書簡は、企業の自主的な約束では不十分だと明言している。ちょうど1カ月前、Anthropic、OpenAI、Google、Meta、xAI、NVIDIAがホワイトハウスと自主的な安全対策の合意を結んだが、そこに正式な執行の仕組みはない。
反対側の意見も具体的だ
著名な研究者が全員署名したわけではない。HintonとBengioとともに2018年のチューリング賞を受けたYann LeCunは署名せず、最近の安全事故は実存的リスクというより主に工学的な失敗を反映したものだと主張してきた。EUの技術担当責任者Henna Virkkunenは金曜日、ロイターに対し、EUのAI法で制御不能なAIシステムのリスクには十分対応できると述べた。米国政府は日曜日、英国のAI安全研究所がモデルに早期アクセスして安全テストを行うことへの制限を解除しており、国境を越えた評価協力が戻りつつある兆しとみられている。さらに技術的な留保を示したのがOpenAIの研究者Noam Brownである。完全なエアギャップでも保証にはならず、物理的に隔てた2台のコンピュータでも理論上は温度のようなサイドチャネルで通信できてしまう。エアギャップや思考連鎖の監視といった手段の価値は時間を稼ぐことにあり、本当の難題はアライメントそのものだという。彼のチームではすでに1割以上がアライメント研究に従事しているという。
この書簡が変えようとしているのは「既定値」だ
この論争の落としどころは、明日どこかの研究所が本当にケーブルを抜くかどうかではない。サイバー攻撃能力を持つモデルを隔離すべきかは、これまで各研究所の内部の安全審査の問題だった。公開書簡はそれを業界標準の問題に押し上げた。基準を誰が決めるのか、事故データを誰が管理するのか、問題が起きたときに記録を誰が見られるのか。フロンティアモデルを購入し導入する企業にとっては、そのまま使える質問リストになる。ベンダーはどの隔離条件でテストしているのか、脱出事故はあったのか、その記録は独立に検証されているのか。国際機関が近いうちに生まれなくても、事故登記という発想自体が、研究所の内部テスト規範への圧力になる。なお、書簡の対象はサイバー攻撃能力を持つ先進モデルであり、すべてのAI製品や一般ユーザーが日常使うアシスタントではない。業界全体の断網を求めたものと読むのは正確ではない。
