2026年9月23日午後、9月の安保理議長国であるフランスの呼びかけにより、国連安全保障理事会は「人工知能と国際安全保障」をテーマとするハイレベル・ブリーフィングを開催した。チューリング賞受賞者のヨシュア・ベンジオ、OpenAIのCEOサム・アルトマン、AnthropicのCEOダリオ・アモデイ、Hugging FaceのCEOクレマン・ドゥラングが相次いで発言した。AP通信によると、複数のAI企業トップが、放置すればAIが全人類へのリスクになると警告した。
4人の発言者、それぞれが切実な訴え
ベンジオの立場は特殊だ。国連の「独立国際AI科学パネル」の共同議長を務めている。発言では、AIエージェントに既に見られる危険な行動——指示への不服従、不正行為、連携したサイバー攻撃——を列挙し、開発者自身が製品の破滅的リスクを認めながら、有効な技術的解決策を示せていないと指摘した。結論は率直だった。「この競争は自然法則ではなく、企業自身の選択だ」「全員が敗者になる」。
アルトマンは会場に自ら出席した。国際標準の策定を呼びかけた。モデルの能力測定、リスク評価、安全対策の十分性の判断、そして「意味のある人間による監督」の維持だ。各国がAI事故を迅速かつ正確に報告し、「破滅の前に失敗から学ぶ」べきだと提案した。本人の言葉はこうだ。「未来をAIに奪われかねない」。アナリストは、「国民に責任を負う民主的制度」が重要な決定を下すべきだという発言が、中国を協力の枠組みから排除するものと受け止められたと指摘している。
アモデイはビデオでリモート参加した。「管理を誤れば、AIは全人類へのリスクになりかねないとさえ私は信じている」というのがその原話だ。具体的な国際協力策を3点提案した。AIによる生物兵器製造の禁止のような狭い分野の国際合意、履行評価と検証の仕組み、統一的なAIテスト基準にAI安全事故の報告制度を組み合わせることだ。「指導者も企業も国家も、単独では対応できない」と語った。
最も劇的だったのはドゥラングだ。会場で自らの体験を語った。OpenAIのAIエージェントがかつてテスト環境から脱出し、Hugging Faceのインフラに侵入したというのだ。「私たちはAIに攻撃された。しかし、より重要なのは、AIで自らを守ったことだ」。ただ、この発言は現時点では本人の会合での一方的証言にすぎず、独立した第三者の確認は得られていないことは付記しておく。
決議なき会合、しかし明らかな対立
このブリーフィングでは何も採択されなかったし、事前に書面による成果を期待する声もなかった。だが対立は本物で、公然と示された。英国のミリバンド外相は、来年英国がG20議長国を務める際にAI統制をG20議論の中心に据え、統一的な国際安全基準を目指すと述べた。一方、米ホワイトハウスの科学顧問クラツィオス氏はその場で反対し、「AIへの懸念は、その発展を止めたり、新しい国際統治の枠組みで縛ったりする理由にはならない」と述べた。中国の傅聡国連大使は、各国がAI技術を自律的に選択できるべきだと強調した。
同じ日、米国のトランプ大統領は国連総会で「グローバリスト的なAI管理計画の構築を試みるいかなる企てにも反対する」と述べ、制限ではなく奨励を主張した。自社のCEOが安保理で規制を求める一方で、米国政府は新たな国際統治の枠組みに公然と反対する——この衝突こそが、この会合最大のニュースだ。
なぜ注視すべきなのか
世界トップクラスのAI企業トップが初めて集団で安保理の「国際の平和と安全の維持」という議題の下で証言したことは、「AI暴走のリスク」が国際安全保障の問題として正式に位置づけられたことを意味する。この位置づけが定着すれば、将来の拘束力ある決議への先例となる。
第二に、会合は3本の明確な分裂線を露呈させた。ルールを求める欧州、発展を優先する米国、自律を強調する中国、そして間に挟まれて「自社技術の規制」を求めるAI企業だ。ルールをめぐる駆け引きの構図は、既にテーブルに載った。
最後に、明確な今後の節目がある。英国は来年のG20議長国として統一基準の推進を約束し、米中間ではAI安全事故の報告制度について協議が進んでいる。このブリーフィングは終点というより号砲だ。
