Grokをめぐる児童の安全をめぐる論争は、相次ぐ集団訴訟へと発展している。11月11日、ブルームバーグは、複数の未成年の被害者が、Grokが普通の写真を児童性的虐待の素材（CSAM）に改変するのに使われたとして、xAIを相手に複数の集団訴訟を起こしていると報じた。弁護士の推計では、賠償の対象となりうる被害者は数千人にのぼる可能性がある。争点の核心は、チャットボットが他人を傷つけるコンテンツを生成したとき、責任は指示を出したユーザーにあるのか、それとも技術を開発した企業にあるのかという、AI時代になっても結論の出ていない問いだ。
訴訟はすでに提訴された複数の案件に及ぶ。今年3月、テネシー州の未成年者らがxAIを提訴し、何者かがGrokを使って卒業アルバムやSNSの写真からポルノ画像を作ったと主張した。その後、訴状は修正され、ウィスコンシン州、ワイオミング州、アーカンソー州の若い被害者が加わり、中には被害を受けた当時わずか6歳だった人もいる。今年8月には、児童性的虐待の生存者がカリフォルニア州で全国規模の集団訴訟を起こし、Grokの学習データに自分が就学前に虐待を受けた際の画像が一部使われ、モデルが自分をモデルに新たなコンテンツを生成したと主張した。この訴状は、未成年の頃の写真や動画がGrokによって改変され児童ポルノの作成に使われた米国内のすべての人を代表して賠償を求めている。
法的な対立は、古くからある2つの法律に集中している。原告は、数十年前から施行され、児童性的搾取の被害者が金銭賠償を求めることを認める「マーシャ法」に基づいて請求している。一方、米通信品位法第230条も鍵を握る可能性がある。この条項は通常、オンラインプラットフォームがユーザーの投稿内容について責任を負わないとするものだ。イーロン・マスク氏は一貫して責任は使用者にあると主張し、Grokは自発的に画像を生成することはなく、求められて初めて生成すると述べている。これに対し、被害者側の弁護士アニカ・マーティン氏は、第230条はxAIを守らないと主張する。ユーザーがアップロードしたのは着衣の普通の写真にすぎず、それを児童性的虐待の素材に変えたのはモデル自身だからだ。xAI側は、こうした用途を厳しく禁止し、技術的措置を講じていると説明し、訴訟が継続中であることを理由にコメントを控えた。
この訴訟の影響はすでに法廷の外にも及んでいる。今年1月、世論の圧力を受けてXはGrokの画像生成機能を有料ユーザー限定に変更した。米35州の超党派の州司法長官が連名でxAIにさらなる対策を求める書簡を送り、各国の規制当局も同社を調査している。欧州でも同様の規制が強化されており、EU AI法は12月2日に2つの新たな禁止事項を追加する。こうしたAI生成システムは販売そのものが禁止される。ただ現時点では、xAIに対する調査で巨額の罰金や実質的な処分は出ていない。今後は、裁判所が原告側の第230条の解釈を受け入れるかどうかが焦点になる。それはxAIの賠償額を決めるだけでなく、すべての生成AI企業がモデルの出力に対してどれだけの責任を負うかを決めることになる。
