Anthropic 在 2026 年 10 月 20 日被曝正向美国国会推销一份 AI 安全法案草案：当一个模型被评估出可能造成 50 人以上死亡、或超过 10 亿美元财产损失的迫近风险时，其发布可以被阻止。消息由 Politico 率先披露，Anthropic 发言人向 Politico 确认了草案存在，并称它落实的是公司自 2026 年 6 月以来一直在向联邦和州议员倡导的 Advanced AI Framework 主张。
红线画在三类灾难上
草案把可以叫停的风险限定在三类来源：借助模型制造生物武器、模型摆脱开发者控制、以及模型被用于网络攻击。50 人与 10 亿美元这两条线并非新创，它与加州已经通过的 SB 53 对灾难性风险的界定基本一致，先在州法里出现的阈值被搬进了联邦草案。对读者来说，争论的焦点已经从要不要设线，变成了线画在哪个数字上；阈值一旦写进法律，今后每个前沿模型发布前都要先过这道评估。
谁来判断，最后由法官拍板
按草案设计，判断风险的不是实验室自己，而是向美国商务部注册的独立评估者；评估者可以由实验室付费，但报酬不能与评估结果挂钩。评估者一旦认定存在迫近的灾难性风险，须在 72 小时内通知商务部，再由商务部请求华盛顿特区法官下令叫停发布。草案还明确禁止任何联邦机构自行决定叫停。这个安排刻意把行政裁量关进笼子：叫停一个模型发布的权力，最终要经过法院。我们此前报道过 FTC 向 OpenAI 与 Anthropic 发出调查令，监管压力一直在加码，这次是企业先把自认为能接受的规则递了上去。
实验室自己递规则，没那么简单
行业内部并不一致：NVIDIA 首席执行官黄仁勋近期公开表示 AI 行业不需要新法律，而 Anthropic 选择主动递交带强制叫停条款的文本，比多数同行的自愿承诺走得更远。但付费评估的独立性仍是草案最薄弱的一环，报酬不与结果挂钩，并不能自动消除评估者对续约的顾虑。这份草案能否被国会接纳、50 人和 10 亿美元的阈值会不会在博弈中被改动，才是接下来真正要看的变量。
