11月9日、6か国政府と10社のAI企業がパリでAIの安全とセキュリティに関する共同宣言に署名し、最先端モデル向けに評価基準の共有や独立した監督、フェイルセーフ制御を約束した。宣言はエリゼ宮とカナダ首相府が発表し、オランダ政府が11月10日に全文をウェブサイトに掲載した。ソウルサミットに続き、今年2度目となる政府と主要モデル開発者による共通の安全への約束だ。
署名した政府はバーレーン、カナダ、フィンランド、フランス、ノルウェー、オランダ。企業側はAnthropic、マイクロソフト、OpenAI、Mistral AI、Hugging Face、Cohere、Black Forest Labs、Domyn、Sakana AI、Synthesiaで、4つの市民社会組織も加わり、宣言は新たな署名者にも開かれている。中心的な約束は4つある。非機密の評価結果を共通の形式で共有すること、事故報告と早期警戒の仕組みを作ること、既知のリスクを開示すること、そしてモデルにフェイルセーフ機構を備えること、すなわち必要に応じて自らの管理範囲内にあるモデルの運用を停止できる能力を持つことだ。各国政府はAI安全分野の内部告発者を保護することを約束した。
この宣言は突然生まれたものではない。広島プロセスやソウルAIサミットのフロンティア安全コミットメント、G7エビアンAI会合、9月23日の国連安全保障理事会のAI会合を明確に引き継いでいる。背後にある判断は率直に書かれている。最先端モデルの影響は国境を越え、どの国や企業、国際機関も単独ではリスクを管理できない。参考になるのは、OpenAIが最近公開した内部システムControl Roomで、介入を決めてから35秒以内にすべての研究モデルの学習を止められる。こうした「止められる能力」こそ、宣言が各開発者に求めるフェイルセーフ機構だ。
ただし宣言の拘束力はまだ見極めが必要だ。これは条約ではなく政治的な約束で、守らなかった場合の帰結は書かれておらず、実行は各企業と各国政府の今後の動きにかかっている。国家レベルの法整備も同じ方向に動いている。オーストラリアは最近、企業に事故の迅速な報告を義務づけ、専任の規制機関を設ける最先端AI規則を提案した。宣言の価値はむしろ共通の方向を示したことにある。評価基準、事故報告、緊急停止は、最先端モデルガバナンスの標準装備になりつつある。
