Anthropic の安全法案草案が表に出てきた。2026 年 10 月 16 日、ロイターは Politico の報道を引いて、Anthropic の担当者が最先端 AI モデルに安全・セキュリティ規則を定める会社作成の法案草案を、連邦議会議員に静かに売り込んできたと伝えた。報道は事情を知る 3 人の話に基づく。ロイターの取材時点では、Anthropic と商務省はいずれもコメント要請に直ちには応じなかった。草案はまだ働きかけの段階で、公開テキストも、提案者として名の挙がった議員もいない。
モデルを止められる条件は意図的に高く設定された
草案で最も目立つのは、政府の権限が細く絞られている点だ。政府がモデルの公開や利用を阻止できるのは、そのモデルが予見可能かつ差し迫った形で、10 億ドルを超える損害をもたらすか、50 人以上の死亡・重傷を引き起こすリスクがある場合に限られる。しかもリスクの出所は三つに列挙限定された。生物兵器の製造・放出の支援、モデルが開発者の制御を離れること、そしてサイバー攻撃への利用だ。偏見や誤情報、商取引上の争いのような日常的な害は、この「緊急ブレーキ」の対象ではない。狙いは破滅級のリスクだけに絞られている。
停止の手続きも同様に狭い。手続きを始められるのは商務省だけで、リスクがあると判断した商務省が裁判所に請求し、コロンビア特別区の連邦地裁判事が停止を命じる形だ。草案はさらに、他のいかなる省庁・機関・公務員も独自にモデルの開発・展開・内部利用を止めることを明示的に禁じている。「誰がブレーキを踏めるか」と「どんな条件で踏めるか」が、同じ狭い門の中に書かれている。
その間に独立評価者の層が挟まる
草案のもう一つの柱は評価の仕組みだ。独立評価者は商務省に登録し、研究所とその最先端モデルを定期的に評価する。研究所が評価者に費用を払うことは認められるが、支払いを評価結果と結びつけることはできない。評価者が企業の最先端モデルに列挙された差し迫ったリスクがあると認定した場合、評価完了から 72 時間以内に商務省へ報告しなければならない。開発者側にも、最先端モデルのテスト、結果の透明化、独立評価の受け入れといった義務が課される。これは Anthropic が今年前半に公表した Advanced AI Framework の提案と一続きの内容だ。
同じ週に、別の方向の声もあった。マイクロソフト社長の Brad Smith は、世界共通の AI 規則と事故報告の義務化を公に求めている（Microsoft 社長 Brad Smith の発言を扱った記事参照）。Anthropic の草案は逆の道を行く。日常的な許可制は設けず、発動条件が極めて高く手続きも狭い停止権だけを残し、日々の見張りは登録評価者に任せるという設計だ。
この草案の重みをどう測るか
まずこれは、規制される側の企業が自ら書いた規則の見本である。発動ラインが 10 億ドルと 50 人という桁に置かれた以上、通常のモデル更新がそこに触れることはまずない。日常の規制の重心はテスト・透明性・評価に移り、国家権力は極端な場合に、しかも裁判所を通してだけ現れる。もしこの草案が立法論議の叩き台になれば、「受け入れ可能な規制の形」の最初の条件設定を業界側が握ることになる。
限界も同じだけ明確にしておきたい。これはまだ法案ではなく、売り込み中の草案にすぎない。支持者の名は報道に出ておらず、議会が乗るかどうか、門檻の数字が立法過程で変わらないかどうかは分からない。「Anthropic が厳しい規制を歓迎している」と読むのも、「自社に都合よく防壁を設計した」と読むのも、現時点で公開されている情報を超えている。確認できるのはもっと狭く、それでも意味のある事実だ。最先端の研究所が、自社版のブレーキ設計を立法者の手に直接渡し始めたのである。
