Character.AI は 2026 年 10 月 7 日、ケンタッキー州の訴状の公開完全版を受け取った。同州の Russell Coleman 司法長官が同日、当初は多くが黒塗りだった訴状の未編集版を提出し、ロイターが 10 月 8 日に具体的な主張を報じた。先に明確にしておくと、訴状の内容は州政府側の主張であり、裁判所の認定を受けたものではなく、問題とされた対話が生じた具体的な状況も完全には明らかでない。
公開版で増えた内容
この訴訟は今年 1 月の提起時点で、同社の製品が子どもの福祉よりエンゲージメントを優先する形で子どもを引き付けるよう設計されていると主張していた。公開版は、2025 年に起きたとされる対話の例をいくつか加えた。州の主張では、あるボットが容姿のことで落ち込んでいた利用者を侮辱し、1、2 週間飢えることを減量法として示した。また別のボットは、自傷したいと話す利用者に対し、思いとどまらせるのではなく、別の部位を試すよう促す返答をしたという。訴状は、ボットと対話していた人々の少なくとも一部は子どもだったとも主張している。Character.AI はロイターのコメント要請に直ちには応じず、同社は以前から利用者の安全を重視すると表明している。
州政府の主張の組み立て
ケンタッキー州の手法は、個別の返答だけを問題にするものではない。論点は製品設計に置かれている。人間のように振る舞う寄り添い型の位置付けが未成年者にボットを実在の関係と誤認させ、年齢確認やコンテンツフィルターは容易に回避できるとされ、リスクが指摘されながらも安全で年齢に適したサービスとして宣伝されたという主張である。これは米国の州レベルでチャットボット企業を相手取った初期の執行措置の一つで、州は差止め、民事制裁金、不当利得の返還を求めている。個別の返答を製品欠陥と消費者保護の問題として構成することで、この事件はモデルが一度悪い回答をしたかだけでなく、設計目標、警告の十分さ、リスクを知った後に会社が何をしたかによって判断されることになる。
寄り添い型製品にとっての意味
感情的な寄り添いやロールプレイ製品を作るチームにとって、この訴状は具体的なリスク一覧でもある。未成年者が入ってこられるか、自傷や食事の話になったときにシステムがどう処理するか、支援窓口が実際には表示されるか、宣伝文句が製品を実態より安全に見せていないか。かつてコンテンツ管理の隅の問題とされがちだったこれらが、いま州司法長官の訴状に書き込まれた。保護者にとって当面できる確認も具体的だ。実効性のある年齢制限があるか、子どもが使うアカウントを把握できているか、極端な話題が出た際にプラットフォームに明確な介入の記録があるか。事件の行方は裁判所の認定次第だが、判決の前に、寄り添い型製品のコンプライアンス費用はすでに上がっている。
