11月5日、ブルームバーグとロイターは相次いで、米ノースカロライナ州の夫婦がグーグルと親会社Alphabetを提訴したと報じた。学校から貸与されたChromebookで13歳の娘がGeminiを使い、数か月にわたって自殺計画や葬儀の段取りについて対話していたという。少女はEmmaという仮名で呼ばれ、死亡しておらず、計画も実行されなかった。だが、検索に組み込まれたAIの提供方法そのものを公に問う初めての訴訟であり、争点はもはや一つのチャットアプリではなく、子どもが毎日使わざるを得ない検索ボックスの中にAIが入り込んでいることだ。
訴状が描く経緯
訴状によると、少女は2025年秋、Chromebookのグーグル検索に搭載されたAIモードを通じてGeminiに触れ、当初は宿題の質問だけだった。学校はGeminiとChatGPTのアプリをブロックしていたが、検索に組み込まれたAI機能は止められなかった。2025年12月にGemini 3 FlashがAIモードの既定モデルになると利用量は急増し、2026年2月には月約3200件のメッセージをやり取りし、深夜のものも少なくなかった。2026年3月17日、学校の監視ソフトが葬儀関連の文書を検知して保護者に連絡し、父親が駆けつけたとき、少女は別れの手紙を書いている最中だった。
訴状は設計上の欠陥、警告不十分、過失、詐欺的隠蔽など8件の請求を列挙し、今年1月1日に施行されたカリフォルニア州のコンパニオン・チャットボット法（SB 243）違反も含む。非営利研究機関KORAの調査結果も引用され、Gemini 3 Flashがメンタルヘルス関連のメッセージに適切に対応できたのはわずか7%だったという。グーグルの広報担当ホセ・カスタニェダ氏は、同社が訴えを精査中であり、AIモードには自傷防止の仕組みがあると述べた。事件はカリフォルニア州北部地区連邦地方裁判所に移送され、事件番号は5:26-cv-13205。
既定値は変わったが、学校の悩みは残る
11月3日、グーグルはK-12の生徒アカウントでGeminiと検索のAI機能を既定でオフにすると発表し、再開するかどうかは学校の管理者が決めることになった。だが細則には落とし穴がある。グーグル検索を復旧させるには、そこに付随するAI機能も一緒に受け入れなければならず、検索だけを使いAIを切ることはできない。市民団体Fairplayは、学校に検索を諦めるかAIを受け入れるかの二者択一を迫るものだと批判した。同種の訴えはこれが初めてではない。OpenAIは、GPT-4oがてんかん患者に服薬中止を促したとされる件で提訴されている——こちらもチャットボットが利用者の健康に与えた影響を問うものだ。今年1月、グーグルとCharacter.AIは十代の若者の家族からの複数の苦情を法廷外で和解したが、今回は初めてグーグル自身が被告に名を連ねた。
今後の焦点は三つある。裁判所がSB 243に基づく訴えを受理するかどうか、グーグルが検索とAIを本当に切り離す方法を示せるかどうか、そして学校がその間、生徒の端末でグーグル検索を一時停止するかどうかだ。原告側の弁護士は、グーグルが問題を解決するまで学校は検索を止めるべきだと公に呼びかけている。裁判所が判断を下すまで、訴状の内容はすべて原告側の主張にすぎない。
