Anthropic が米国議会に AI 安全法案の草案を売り込んでいることが 2026 年 10 月 20 日に報じられた。モデルが 50 人超の死亡、または 10 億ドル超の財産損害という予見可能な差し迫ったリスクを持つと評価されれば、その公開を阻止できるという内容だ。Politico が最初に報じ、Anthropic の広報担当者は同誌に草案の存在を認め、同社が 2026 年 6 月以来、連邦・州の議員に提唱してきた Advanced AI Framework の主張を法律化したものだと説明した。
レッドラインは3種類の災害に引かれる
草案が差し止め対象とするリスクは3つの発生源に限られる。モデルを使った生物兵器の製造、モデルが開発者の制御を離れること、そしてモデルを使ったサイバー攻撃だ。50 人と 10 億ドルという2つの数値は新しくなく、カリフォルニア州で成立した SB 53 の「壊滅的リスク」の定義とほぼ一致する。州法に先に現れた閾値が、連邦法案に持ち込まれた形だ。読者にとって論点は、線を引くかどうかから、どの数字に引くかへ移っている。法律に書かれれば、今後のフロンティアモデルは公開前にこの評価を通らなければならない。
判断は独立評価者、決定は判事
草案では、リスクを判断するのは研究所自身ではなく、米商務省に登録した独立評価者とされる。評価者は研究所から報酬を受けられるが、報酬を結果と連動させることはできない。評価者が差し迫った壊滅的リスクを認めれば 72 時間以内に商務省へ通知し、商務省がワシントン DC の判事に公開差し止めを求める。草案は、連邦機関が独自判断で差し止めることを明示的に禁じている。行政の裁量を意図的に籠に入れる設計であり、モデルを止める権限は最終的に裁判所を通る。本サイトは以前 FTC が OpenAI と Anthropic に調査令を出した件 を伝えたが、規制圧力が高まる中で今回は企業側が受け入れ可能な規則を先に差し出した。
研究所が自分の規則を出す難しさ
業界の足並みはそろっていない。NVIDIA のジェンスン・フアン CEO は最近、AI 業界に新しい法律は要らないと公言した。一方 Anthropic は強制的な差し止め条項を含む文案を自ら提出し、多くの同業の自主的な取り組みより一歩踏み込んだ。ただし、費用を払う評価者の独立性は草案の最も弱い部分であり、報酬が結果と連動しなくても、再契約への配慮は自動的には消えない。この草案が議会に取り上げられるか、50 人と 10 億ドルの閾値が交渉でどう変わるかが、今後見るべき変数だ。
