Grok 的儿童安全争议正在变成一连串集体诉讼。11 月 11 日，彭博社报道，多名未成年受害者正就 Grok 被用于把普通照片篡改成儿童性虐待材料（CSAM）对 xAI 提起多起集体诉讼，律师估计符合索赔条件的受害者可能多达数千人。这场纠纷的核心问题是：当聊天机器人生成侵害他人的内容时，责任该由发出指令的用户承担，还是由开发这项技术的公司承担。
诉讼涉及多起已立案的案件。今年 3 月，来自田纳西州的多名未成年人起诉 xAI，指控有人利用 Grok 拿她们的毕业年鉴照片和社交媒体照片制作色情图像；此后诉状修订，加入了威斯康星州、怀俄明州与阿肯色州的更多年轻受害者，其中一些人受害时只有 6 岁。今年 8 月，一名曾遭受儿童性虐待的幸存者在加州提起全国范围的集体诉讼，称 Grok 的训练数据部分使用了她学龄前时期遭到侵害的图片，模型还以她为原型生成了新的内容；她的诉状代表美国境内所有未成年时期图片或视频被 Grok 篡改并用于制作儿童色情内容的人士索赔。
法律层面的分歧集中在两部旧法上。原告依据实施数十年的《玛莎法案》索赔，该法允许儿童性剥削受害者寻求经济赔偿；美国《通信规范法》第 230 条也可能成为关键——这条法律通常让网络平台免于为用户发布的内容担责。马斯克一直强调责任在使用者，称 Grok 不会自发产生图片，只有在用户要求时才生成。代表受害者的律师安妮卡·马丁则认为，第 230 条护不住 xAI，因为用户上传的只是穿着完整的普通照片，是模型自己把照片转化成了儿童性虐待材料。xAI 方面表示，公司严格禁止这类用途并采取了技术措施，同时以诉讼尚未结束为由拒绝置评。
这场官司的影响已经超出法庭。今年 1 月迫于舆论压力，X 把 Grok 的图片生成功能改为付费用户专享；美国 35 个州的两党州检察长已联名致信 xAI，要求采取更多措施；多国监管机构也在调查该公司。欧洲也在收紧同类规则，欧盟 AI 法案 12 月 2 日新增两项禁令，这类 AI 生成系统将被直接禁售。但到目前为止，针对 xAI 的调查尚未带来重大罚款或实质性处罚。后续要看法院是否采纳原告对第 230 条的解读——这不仅决定 xAI 要赔多少，也会决定所有生成式 AI 公司要为模型输出承担多大的责任。
