9月21日,加拿大不列颠哥伦比亚省在旧金山联邦法院起诉OpenAI及其首席执行官奥尔特曼,指控该公司在今年2月的坦布勒岭校园枪击案发生前,未能把相关人员通过ChatGPT策划暴力的迹象转告警方。这是AI安全责任第一次被一个省级政府搬上法庭。
诉讼指控了什么
诉状的核心指控是:OpenAI的内部安全团队早在2025年6月就标记了相关人员的ChatGPT账号,发现其中涉及枪支暴力的对话内容,并建议联系执法部门,但公司没有照做。BC省司法厅长尼基·夏尔马在一份声明中说:“坦布勒岭的人民理应得到答案和问责。”
BC省要求赔偿与枪击案善后相关的支出,包括心理健康服务和重建被袭学校,同时要求法院下令OpenAI改变处理可能预示严重暴力的ChatGPT对话的方式。诉状还称,奥尔特曼曾向当地社区致歉,承认没有报警,但承诺的整改没有落实。BC省今年7月就表示在研究法律行动,9月21日正式立案。
OpenAI的回应
OpenAI发言人称坦布勒岭枪击案是“难以言喻的悲剧”,表示公司“始终致力于与政府和执法部门合作,持续推进安全工作”。公司此前的说法是,事发时的内部评估没有发现达到转介执法门槛的“可信且迫在眉睫的策划”,但按更新后的流程,这类案件现在会被上报。
值得注意的背景是:这不是第一起诉讼。此前已有30多名受害者家属在加州联邦法院起诉OpenAI,指控公司错过了阻止枪击的机会。政府出面之前,个案追责已经在路上。
为什么这起诉讼分量不同
个人诉讼追究的是个案责任,省级政府出面则把问题推向制度层面:当AI公司的内部安全流程已经亮起红灯,是否存在向执法部门预警的法律义务?预警的门槛由谁来定——是公司自己,还是监管机构?
这起案件还触及一个更棘手的权衡:用户对话的隐私,与公共安全的预警需求。OpenAI每天处理海量对话,安全团队的标记、升级、转介每一步都需要明确规则;规则太松,漏报的代价可能是生命;规则太严,误报又会侵蚀用户信任并带来巨大的运营负担。法庭将第一次在AI语境下称量这杆秤。
这件事意味着什么
无论官司结果如何,它都给全行业划了一道新的问责线:内部安全评审的记录,正在成为法庭上的证据。AI公司不能再把“我们内部看过”当作终点——看过之后做了什么、为什么没做,将被逐项审视。
对从业者,一个直接的启示是:涉及暴力、自残等高风险内容的内部处置流程,需要可审计、可解释的转介标准,并且要写进对外公开的安全政策里,而不是留在内部手册。对监管者,这起诉讼可能加速各国对“AI公司预警义务”的立法讨论。安全投入第一次从成本项,变成了法律风险项。