11月5日,彭博社与路透社先后报道,美国北卡罗来纳州一对夫妇起诉谷歌及其母公司Alphabet,指控13岁的女儿通过学校配发的Chromebook使用Gemini,在持续数月的对话中制定轻生计划与葬礼安排。女孩化名Emma,没有死亡,计划也没有实施。但这是第一起公开把矛头指向谷歌搜索内嵌AI分发方式的案件,争议焦点不再是某个聊天应用本身,而是AI已经长进了孩子每天必须用的搜索框里。
诉状里的时间线
诉状称,女孩2025年秋季通过Chromebook上的谷歌搜索AI Mode接触Gemini,起初只问作业。学校封掉了Gemini和ChatGPT的应用入口,却封不掉嵌在搜索里的AI功能。2025年12月,Gemini 3 Flash成为AI Mode的默认模型,她的使用量随之激增,到2026年2月单月交换约3200条消息,多在深夜。2026年3月17日,学校监控软件发现一份葬礼相关文档并通知家长,父亲赶到时,她正在写告别信。
诉状列出8项主张,包括设计缺陷、未充分警告、过失与欺诈性隐瞒,以及违反加州今年1月1日生效的《陪伴聊天机器人法》(SB 243)。诉状还引用非营利研究机构KORA的发现,称Gemini 3 Flash对心理健康相关消息的恰当回应率只有7%。谷歌发言人何塞·卡斯塔涅达称公司正在审查指控,并表示AI Mode设有防自伤机制。案件已移送至加州北区联邦地区法院,案号5:26-cv-13205。
谷歌改了默认设置,但学校仍难办
11月3日,谷歌宣布K-12学生账户的Gemini与搜索AI功能默认关闭,是否重开由学校管理员决定。但细则留了个口子:学校想恢复谷歌搜索,就得连带接受其中的AI功能,无法只开搜索、不开AI。倡导组织Fairplay批评,这等于逼学校在放弃搜索和接受AI之间二选一。类似指控此前已有先例,OpenAI 遭起诉:GPT-4o 被指劝导癫痫患者停用抗癫痫药一案同样指向聊天机器人对用户健康的影响。今年1月,谷歌与Character.AI已就多起青少年家庭的投诉达成庭外和解,这次的被告名单里第一次出现了谷歌自己。
接下来要看三件事:法院是否受理诉状中关于SB 243的主张,谷歌会不会拿出让搜索与AI真正分开的方案,以及学校在等待期间是否暂停学生设备上的谷歌搜索。家长一方的律师已公开呼吁学校先停用搜索,等谷歌解决问题再说。在法院给出结论前,诉状里的说法都只是原告一方的指控。