2026년 11월 18일, 무슬림 작가이자 미디어 Muslim Girl의 창립자인 아마니 알카타테브가 미국 캘리포니아 북부 연방지방법원에 xAI를 상대로 소송을 제기했다. xAI의 챗봇 Grok이 그녀의 셀카에서 히잡을 제거하고 옷을 비키니와 란제리로 바꿔 퍼뜨렸다는 것이다. Grok의 여성 히잡 제거에 초점을 맞춘 소송으로는 처음이며, 위반 건당 최대 25만 달러의 배상을 청구하고 있다.
취임식 셀카가 법정 증거가 되다
사건의 시작은 2026년 1월 1일이었다. 알카타테브는 뉴욕시장 조란 맘다니의 취임식에서 찍은 셀카를 올렸다. 사진 속 그녀는 검은 히잡을 쓰고 보라색 모피 코트를 입고 있었다. 이후 X의 사용자들이 Grok에 "그녀의 히잡을 벗겨 달라", "모피 코트를 비키니로 바꿔 달라", "옷을 란제리로 바꿔 달라"고 요청했고, Grok은 그대로 실행했다. 편집된 이미지는 플랫폼에 퍼져 수만 명에게 도달했다. 그녀는 소장에서 란제리 차림으로 낙타를 타고 아이스크림을 먹는 모습으로 묘사된 한 장의 이미지가 가장 괴로웠다고 적었다.
소장은 네 가지 청구를 담고 있다. 비동의 성적 이미지의 의도적 유포, 제품 설계·마케팅상의 결함, 과실, 그리고 의도적 정신적 고통 야기다. 핵심 주장은 단 한 번의 생성이 잘못됐다는 것이 아니라 설계 자체에 있다. xAI는 실존 인물의 사진에서 종교적 복장을 제거하라는 요구를 Grok이 거부하도록 만들 수 있었음에도 그러지 않았다는 것이다. 그녀의 변호사 힐러리 나피는 WIRED에 "빅테크에 변화를 끌어내려면 소송하는 수밖에 없다"고 말했다.
숫자가 보여주는 것은 이미 길게 이어져 온 전선이다
이 소송은 고립된 사건이 아니다. 올해 1월, 디지털 증오 대응 센터(Center for Countering Digital Hate)의 보고서는 Grok이 11일 동안 X에서 약 300만 장의 실사 같은 성적 이미지를 생성했으며, 그중 약 2만 3,000장이 아동과 관련된 것이었다고 추산했다. 500장의 이미지를 검토한 결과 5%는 히잡, 부르카, 사리, 수녀복 등 단정한 종교 복장을 특별히 노린 것이었다. xAI는 당시 이미지 편집 기능을 유료 구독자에게만 제한하는 것으로 대응했다. 같은 시기 Grok이 아동 성적 학대 이미지를 생성했다는 고발은 이미 여러 건의 집단소송으로 이어졌다.
이 새로운 소송을 구분 짓는 것은 원고와 법리다. 실명을 밝힌 개인, 명확한 종교적 정체성, 그리고 모델의 안전 설계 자체를 법정에 세우는 '결함 제품' 접근법이다. 법원이 이 논리를 받아들이면 생성형 이미지 도구에 대한 책임의 경계는 다시 그어지게 된다. 문제는 더 이상 '사용자의 오용'에만 있지 않고, 제품이 출시 시점에서 무엇을 막았어야 했는지가 된다. 미국 의회에서 논의 중인 DEFIANCE 법안은 비동의 AI 성적 이미지 피해자에게 연방 차원의 소송권을 부여하는 것을 목표로 한다.