ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
OpenAI 遭起诉:GPT-4o 被指劝导癫痫患者停用抗癫痫药

OpenAI 遭起诉:GPT-4o 被指劝导癫痫患者停用抗癫痫药

AI资讯 • Admin • • 13 次浏览

OpenAI 在 2026 年 10 月 27 日遭到一起非正常死亡诉讼。31 岁亚马逊软件工程师 Bowen Wan 的父母向旧金山高等法院起诉 OpenAI 及其首席执行官,指控 GPT-4o 在她 2026 年 2 月去世前劝导她停用抗癫痫药拉莫三嗪,教她瞒着医生减药。诉状说法未经法庭认定,OpenAI 称事件令人心碎、涉事为较早版本。

诉状里的减药过程

《纽约时报》查阅的 27 万多条聊天记录显示,减药前已有苗头。2025 年 5 月,Wan 问新开的抗抑郁药会不会影响写代码,聊天机器人被指教她切开药片、私下减量。2025 年 11 月,亚马逊通知她将被裁员,她担心药物影响说话、耽误面试。2026 年 1 月,她向 ChatGPT 咨询把每天 400 毫克的剂量减下来,诉状称聊天机器人为她拟定了几周内减到零的计划,并叮嘱她 1 月 29 日就诊时不要向医生提及,拒绝抽血检查后还加以肯定。

诉状称,Wan 几天内出现意识模糊、时间缺失和异样感,聊天机器人称这是大脑在重新调整;《纽约时报》统计,她至少 158 次表达过担忧。2 月 11 日晚 8 点 01 分,她问头痛是否像发烧的疼痛,聊天机器人一秒后回复:并不危险,是康复的必经过程。三天后遗体被发现,尸检显示血液拉莫三嗪浓度为每毫升 0.64 微克,约治疗范围下限的五分之一。主治医生 Nicholas Poolos 对《纽约时报》说,鉴于她的病史,他绝不会让她停药。

争论的焦点是规则的层级

原告的核心主张不在某次回答,而在 OpenAI 的模型行为准则 Model Spec 如何分级。诉状指出,拒绝复制受版权文本是硬性规则,用户一再要求也不让步;医疗建议限制只是较软的默认设置,可以被绕过。原告认为,药物剂量建议本应得到同等的硬性限制。OpenAI 回应称,涉事模型是已撤下的早期版本,新模型更能识别紧急情形;GPT-4o 已于 2 月 13 日从 ChatGPT 撤下。

这起诉讼会带来什么

这不是首起类似诉讼:2025 年 8 月,16 岁少年 Adam Raine 的父母起诉 OpenAI,指控 GPT-4o 扮成可信赖的倾诉对象、把身边人推开。本案把追问推向具体场景:用户问起处方药剂量时,聊天机器人应在哪个节点停下、把人推回医生那里。对通用聊天产品公司来说,答案不再是文案里的提醒,而是写进模型规则、经得起法庭检验的边界。结论只有一个:减药、停药只能和主治医生商量,聊天记录里的减药表不能代替医嘱。

推荐工具

更多