Grok을 둘러싼 아동 안전 논란이 잇단 집단소송으로 번지고 있다. 11월 11일 블룸버그는 미성년 피해자들이 Grok이 일반 사진을 아동 성착취물(CSAM)로 변조하는 데 사용됐다며 xAI를 상대로 여러 건의 집단소송을 제기했다고 보도했다. 변호사들은 배상 대상자가 수천 명에 이를 수 있다고 추산한다. 이 분쟁의 핵심은 AI 시대에도 결론이 나지 않은 질문이다. 챗봇이 타인을 해치는 콘텐츠를 만들었을 때 책임은 지시를 내린 사용자에게 있는가, 아니면 기술을 개발한 기업에게 있는가.
소송은 이미 제기된 여러 사건을 아우른다. 올해 3월 테네시주의 미성년자들이 xAI를 고소하며 누군가 Grok을 이용해 졸업 앨범 사진과 소셜미디어 사진을 음란물로 만들었다고 주장했다. 이후 소장은 수정돼 위스콘신, 와이오밍, 아칸소주의 젊은 피해자들이 추가됐고, 그중 일부는 피해 당시 고작 6살이었다. 올해 8월에는 아동 성학대 생존자가 캘리포니아에서 전국 단위 집단소송을 제기하며, Grok의 학습 데이터에 자신이 취학 전 학대를 당하던 시절의 이미지가 일부 사용됐고 모델이 자신을 본떠 새로운 콘텐츠를 생성했다고 주장했다. 이 소장은 미성년 시절 사진이나 영상이 Grok에 의해 변조돼 아동 성착취물 제작에 사용된 미국 내 모든 사람을 대표해 배상을 청구한다.
법적 다툼은 오래된 두 법에 집중돼 있다. 원고들은 수십 년 전부터 시행돼 아동 성착취 피해자가 금전 배상을 청구할 수 있게 한 '마샤법'에 근거해 청구했고, 미국 통신품위법 제230조도 핵심이 될 수 있다. 이 조항은 일반적으로 온라인 플랫폼이 이용자가 올린 콘텐츠에 대해 책임을 지지 않도록 한다. 일론 머스크는 줄곧 책임은 사용자에게 있다며 Grok은 스스로 이미지를 만들지 않고 요청받을 때만 생성한다고 주장해 왔다. 반면 피해자 측 변호사 애니카 마틴(Annika Martin)은 제230조가 xAI를 지켜주지 못한다고 본다. 이용자가 올린 것은 옷을 제대로 입은 평범한 사진일 뿐인데, 그것을 아동 성착취물로 바꾼 것은 모델 자체이기 때문이다. xAI 측은 이런 용도를 엄격히 금지하고 기술적 조치를 취했다고 밝히며, 소송이 진행 중이라는 이유로 논평을 거부했다.
이 소송의 파장은 이미 법정을 넘어서고 있다. 올해 1월 여론의 압박에 X는 Grok의 이미지 생성 기능을 유료 이용자 전용으로 바꿨고, 미국 35개 주의 초당적 주 검찰총장들이 연명으로 xAI에 추가 조치를 요구하는 서한을 보냈으며, 여러 나라의 규제 당국도 회사를 조사하고 있다. 유럽도 유사한 규제를 강화하고 있다. EU AI법은 12월 2일 두 가지 새로운 금지 조항을 추가해 이런 AI 생성 시스템의 판매 자체를 금지한다. 하지만 지금까지 xAI에 대한 조사에서 거액의 벌금이나 실질적인 제재는 나오지 않았다. 앞으로는 법원이 원고 측의 제230조 해석을 받아들일지가 관건이다. 이는 xAI가 얼마를 배상해야 하는지를 결정할 뿐 아니라, 모든 생성형 AI 기업이 모델의 출력에 대해 얼마나 책임져야 하는지를 결정하게 된다.
