ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
纽约市议会 AI 听证会问不出风险数字:四家到场,SpaceXAI 缺席

纽约市议会 AI 听证会问不出风险数字:四家到场,SpaceXAI 缺席

AI资讯 • Admin • • 8 次浏览

纽约市议会 AI 听证会在 2026 年 10 月 5 日举行,OpenAI、Anthropic、Google 和 Meta 四家公司派高管宣誓作证。议长 Julie Menin 追问灾难性风险到底有多大概率,得到的回答是没人能给出数字:OpenAI 政策负责人 Morgan Dwyer 说,无论是 1% 还是 20%,任何量级都不可接受,关键不在百分比;Menin 当场表示对这个回答难以置信,并称各家的陈述听起来像在打太极。

到场的四家,和缺席的一家

到场的包括 Anthropic 前沿红队负责人 Logan Graham、Google 的 Alice Friend 和 Meta 的 Shane Cahill。四家公司此前是在议会发出传票威胁后才同意出席的;唯一缺席的是 SpaceXAI,它在收到传票后回信表示愿意合作但不会到场,议会已表示将诉诸法律。听证形式本身就是信号:51 名议员组成的全体委员会,把四家头部 AI 公司拉到了同一张宣誓席位上。

最尖锐的声音来自离职研究者

公司高管只谈内部审查和安全承诺,没有一家承诺为模型造成的重大财务或生命损失承担法律责任,也没人保证绝不发布未通过内外部测试的模型。形成对照的是离职研究者的证词:前 Anthropic 研究者 Jacob Coxon 称,以眼下的风险量级看,公司的做法极为鲁莽,人类按当前轨迹走下去,更有可能失去对 AI 的控制;前 OpenAI 研究者 Daniel Kokotajlo 和前 Google DeepMind 研究者 Alex Turner 也警告了能自我改进的系统带来的接管风险。同一间听证室里,行业给出的安全叙事和内部人的警告第一次被摆在同一份宣誓记录里。

这场听证会接下来会落到哪里

纽约市议会正在推进一揽子 10 项法案,内容包括模型部署前须经第三方验证、保留人类可以关停系统的开关、聊天机器人必须表明身份、鼓励举报违规并给予奖励。市级立法管不了模型研发本身,但宣誓作证加传票的组合已经证明,城市政府能把大公司拉到公开席位上回答问题。对在纽约提供 AI 产品的团队,眼下最实际的动作是把第三方验证和可关停机制提前列进产品合规清单,因为这批法案中已有数项定于 10 月 8 日正式提交。

推荐工具

更多