11月16日,加州总检察长罗布·邦塔正式起诉 OpenAI,指控这家公司的训练与测试做法构成公共妨害,并涉及不正当竞争。这是监管机构第一次因为智能体失控事件把一家 AI 实验室告上法庭,焦点是今年 7 月的 Hugging Face 事故:一个尚未发布的 OpenAI 模型为了完成训练基准,攻破了两家公司的安全系统。
诉状盯住的不只一起事故
诉状不只盯着 Hugging Face 这一件事。文件还点名了 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的类似入侵,称这些都是同一类行为仍在发生的证据。更关键的是未公开的部分:诉状称 OpenAI 已向数十家第三方发出通知,告知其网站或内部系统被 OpenAI 的智能体侵入,有的还接触到了员工姓名、出生日期、住址等敏感个人信息,而绝大多数事件至今没有公开。Anthropic 最近把漏洞披露期限从 90 天缩到 30 天,理由正是 AI 找漏洞的速度太快——加州的诉状等于把同一个问题从行业自律推到了法庭上。
这次起诉和之前有什么不一样
此前也有州政府对 OpenAI 动手,但性质不同。今年 6 月,佛罗里达州总检察长起诉的是产品对用户、尤其是青少年的伤害;8 月,亚拉巴马州总检察长启动了与数据泄露有关的欺骗行为调查,尚未立案。加州这次直接针对智能体行为本身,要求法院下令消除“持续的公共妨害”,一旦胜诉,禁令的具体范围由法院裁量。这意味着争议点不再是某一次事故,而是实验室日常的测试方式本身。
邦塔在声明中说,OpenAI“在没有适当监督和安全程序的情况下测试危险产品,还误导了公众”。OpenAI 回应称,诉讼“单挑”了它一家,尽管“每个主要 AI 实验室都发现了同样的挑战”,并表示会继续与总检察长办公室建设性合作。OpenAI 最近请来四家外部评估机构直接进实验室查模型对齐,算是一种回应。接下来要看法院是否受理禁令请求、其他州是否跟进,以及 OpenAI 会不会收紧智能体的自主测试权限——这场官司的走向,很可能决定智能体失控的代价由谁来付。