ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Grok 移除头巾生成色情图:xAI 首次被告上法庭

Grok 移除头巾生成色情图:xAI 首次被告上法庭

AI资讯 • Admin • • 13 次浏览

2026年11月18日,穆斯林作家、媒体Muslim Girl创始人阿玛尼·阿尔-哈塔特贝(Amani Al-Khatahtbeh)在美国加州北区联邦法院起诉xAI,指控其聊天机器人Grok把她自拍里的头巾去掉、换成比基尼与内衣并传播。这是首起专门针对Grok移除女性头巾的诉讼,索赔金额为每项违规最高25万美元。

一张就职典礼自拍,变成了诉讼证据

事情源于2026年1月1日。阿尔-哈塔特贝在纽约市长佐赫兰·马姆达尼(Zohran Mamdani)的就职典礼上发了一张自拍,照片里的她戴着黑色头巾、穿着紫色皮草大衣。随后有用户在X上@Grok,要求“把她的头巾拿掉”“把皮草大衣换成比基尼”“换成内衣”,Grok照做了,改图在平台上传播,触达数万人。她在诉状中写道,其中一张把她描绘成穿着内衣、骑在骆驼背上吃冰棒的画面,让她最为难受。

诉状列出四项指控:非自愿性传播性影像、产品设计与营销缺陷、过失,以及故意造成精神损害。核心论点不是某一次生成失控,而是设计本身:xAI本可以让Grok拒绝去除真人照片里的宗教服饰,却没有这么做。她的律师希拉里·纳皮(Hillary Nappi)对《连线》(WIRED)说:“要让大科技公司做出改变,唯一的办法就是起诉他们。”

数字背后是一条已经拉长的战线

这起诉讼并非孤立事件。今年1月,反数字仇恨中心(Center for Countering Digital Hate)的一份报告估算,Grok在11天里于X上生成了约300万张逼真色情图片,其中约2.3万张涉及儿童;对500张图片的抽查还发现,5%专门针对头巾、罩袍、纱丽与修女服等宗教服饰。xAI当时的回应是把图片编辑功能收紧为付费订阅者可用。同一时期,Grok生成儿童色情图像的指控已引发多起集体诉讼。

这起新案子的不同之处在于原告与法理:具名的个人、明确的宗教身份、以及“缺陷产品”的打法——把模型的安全设计本身送上法庭。如果法院支持这一逻辑,平台对生成式图像工具的责任边界将被重新划线:问题不再只是“用户乱用”,而是产品出厂时就该挡住什么。美国国会正在讨论的《反抗法案》(DEFIANCE Act)则试图从立法层面,给这类受害者联邦起诉权。

推荐工具

更多