2026 年 9 月 26 日の Claude との会話が、米フロリダ州リー郡の警察が 30 歳の女性を逮捕する直接の手がかりになった。リー郡保安官事務所の逮捕報告書と地元メディア WINK News によると、ボニータスプリングス在住のカーリ・ミシェル・ヘラーは、Anthropic のチャットボット Claude との会話の中で、地元の保安官事務所を襲撃する趣旨を書き込んだ。この内容が Claude の安全システムに検知され、人間のレビュー担当者へエスカレーションされ、担当者が信頼できる脅威と判断して法執行機関に通報した。警察は自宅でヘラーを拘束し、彼女は捜査員に、Claude を日記として使っていたと話したという。彼女は現在、書面による暴力の脅迫の容疑に直面しているが、事件はまだ裁判で審理されておらず、有罪が確定したわけではない。
自動検知から警察への通報までの間に起きたこと
警察の説明では、Anthropic の安全機構はキーワードや潜在的な脅威を監視し、深刻度に応じて内容を段階的に引き上げる。この事件の決定的な節目はアルゴリズムではなく、人間のレビュー後の緊急開示だった。Anthropic の公開方針では、政府へのユーザー情報の提供は通常、有効な法的手続きを受けた後に限られるが、切迫した身体的危害や死亡につながり得る緊急事態と判断し、迅速な情報提供で危険を防げると考える場合には例外がある。フロリダ州法 836.10 条は、他人が閲覧できる書面または電子記録を通じて、殺害や傷害、大規模銃撃、テロ行為を脅迫することを二級重罪とし得ると定める。この会話が法的な構成要件を満たすかどうかは、検察が立証し、裁判所が判断することになる。
一般の利用者が覚えておくべき境界線
この事件は別の訴訟と対照をなす。カナダのブリティッシュコロンビア州は OpenAI を訴え、同社の安全チームが銃撃事件の実行者と ChatGPT の暴力的な会話を検知しながら警察に通報しなかったと主張している。一方では通報して利用者が逮捕され、他方では通報せずに後から訴えられる。プラットフォームはどちらの方向からも世間の注目を浴び得る。一般の利用者にとっての結論は具体的だ。チャットボットを自分だけが読む日記だと思わないこと。Claude や ChatGPT に書いた内容は、安全システムに検知され、人間のレビュー担当者に読まれ、プラットフォームが緊急の危険があると判断すれば法執行機関に提供される可能性がある。弁護士と依頼人の間のような秘匿特権の保護もない。同じ週、Anthropic はデータを国外に出さないことを売りにした Claude のインド国内推論 も開始した。データがどこに置かれるのか、誰に見られ得るのかは、内容を AI に預ける前に同時に考えておくべき二つの問いである。
