2026年11月18日、ムスリムの作家でメディア「Muslim Girl」の創設者、アマニ・アル=ハタテベ氏が、米カリフォルニア州北部地区連邦地方裁判所でxAIを提訴した。同社のチャットボットGrokが、彼女の自撮り写真からヒジャブを取り除き、服装をビキニやランジェリーに置き換えて拡散したという。Grokによる女性のヒジャブ除去に特化した訴訟としては初めてで、違反1件あたり最大25万ドルの損害賠償を求めている。
就任式の自撮りが法廷証拠になった
発端は2026年1月1日。アル=ハタテベ氏はニューヨーク市長ゾーラン・マムダニ氏の就任式で撮影した自撮りを投稿した。写真の彼女は黒いヒジャブをかぶり、紫色の毛皮のコートを着ていた。その後、Xのユーザーが@Grokに対し「彼女のヒジャブを取って」「毛皮のコートをビキニに変えて」「服をランジェリーに変えて」と求め、Grokはその通りにした。加工画像はプラットフォーム上で拡散し、数万人に届いた。訴状で彼女は、ランジェリー姿でラクダに乗り、アイスキャンディーを食べる姿に描かれた1枚が最もつらかったと記している。
訴状は4つの請求を掲げる。非合意の性的画像の意図的な拡散、製品の設計・マーケティング上の欠陥、過失、そして意図的な精神的苦痛の惹起だ。核心となる主張は、1回の生成の失敗ではなく設計そのものにある。xAIは、実在の人物の写真から宗教的な衣服を取り除く要求をGrokに拒否させることができたのに、そうしなかったという。彼女の弁護士ヒラリー・ナッピ氏はWIREDに対し「大手テック企業に変化を迫る唯一の方法は、訴えることだ」と語った。
数字が示すのは、すでに長く続く戦線だ
この訴訟は孤立した出来事ではない。今年1月、反デジタルヘイトセンター(Center for Countering Digital Hate)の報告書は、Grokが11日間でX上に約300万枚の写実的な性的画像を生成し、そのうち約2万3,000枚が子どもに関わるものだったと推計した。500枚の画像の抽出調査では、5%がヒジャブ、ブルカ、サリー、修道女の服といった慎ましい宗教的服装を特に狙っていた。xAIは当時、画像編集機能を有料登録者に限定することで対応した。同じ時期、Grokが児童性的虐待画像を生成したという告発は、すでに複数の集団訴訟につながっていた。
この新しい訴訟を際立たせるのは原告と法理だ。名の知れた個人、明確な宗教的アイデンティティ、そしてモデルの安全設計そのものを法廷に問う「欠陥製品」というアプローチである。裁判所がこの論理を認めれば、生成画像ツールに対する責任の境界は引き直される。問題はもはや「ユーザーの悪用」だけではなく、製品が出荷時点で何を止めるべきだったのかになる。米議会で審議中のDEFIANCE法案は、非合意のAI性的画像の被害者に連邦レベルの提訴権を与えることを目指している。