9月21日、カナダのブリティッシュコロンビア州は、サンフランシスコの連邦裁判所でOpenAIとそのCEOサム・アルトマンを提訴した。今年2月に起きたタンブラーリッジの学校銃撃事件の前に、ChatGPTを通じて暴力が計画されている兆候を警察に伝えなかったという主張だ。AIの安全責任を州政府が法廷に持ち込むのは初めてのことである。
訴状が主張する内容
訴状の核心はこうだ。OpenAIの内部セーフティチームは2025年6月の時点で関係者のChatGPTアカウントにフラグを立て、銃による暴力に関する会話を確認し、法執行機関への連絡を推奨していた。にもかかわらず同社は実行しなかった。州司法長官ニキ・シャルマは声明で「タンブラーリッジの人々は答えと説明責任を得るに値する」と述べた。
州は、メンタルヘルス支援や襲撃された学校の再建を含む事件後の復旧費用の損害賠償を求めるとともに、深刻な暴力を示唆する可能性のあるChatGPTの会話の取り扱いを変えるようOpenAIに命じる裁判所命令を求めている。訴状はまた、アルトマンが地元コミュニティに謝罪し、警察に通報しなかったことを認めたものの、約束した改革は実行されなかったとしている。州は7月の時点で法的措置を検討していると表明しており、9月21日に正式に提訴した。
OpenAIの反応
OpenAIの広報担当者はタンブラーリッジの事件を「言葉にできない悲劇」と呼び、同社は「政府や法執行機関との協力を続け、安全の取り組みを前進させることに引き続き尽力する」と述べた。同社のこれまでの説明は、当時の内部評価では法執行機関への通報の基準を満たす「信頼でき、差し迫った計画」は確認されなかったというものだ。ただし更新後の手順では、この種の案件は現在は報告されるという。
注目すべき背景がある。これが初めての訴訟ではないのだ。すでに30人以上の遺族がカリフォルニア州の連邦裁判所でOpenAIを提訴し、銃撃を防ぐ機会を逃したとして同社を非難している。政府が動く前から、個別の責任追及は始まっていた。
この訴訟が持つ重みが違う理由
個人の訴訟が個別案件の責任を問うのに対し、州政府が動けば問題は制度レベルの問いになる。AI企業の内部セーフティプロセスがすでに赤信号を出しているのに、法執行機関に警告する法的義務はあるのか。その基準を決めるのは企業自身か、規制当局か。
この事件はさらに厄介なトレードオフにも触れている。ユーザーの会話のプライバシーと、公共の安全のための警告の必要性だ。OpenAIは毎日膨大な量の対話を処理しており、セーフティチームによるフラグ付け、エスカレーション、通報には明確なルールが必要だ。ルールが緩すぎれば、見逃したシグナルの代償は人命になりかねない。厳しすぎれば、誤報がユーザーの信頼を損ない、膨大な運用負担を生む。AIの文脈でこの天秤を法廷が量るのは初めてのことだ。
この出来事が意味すること
結果がどうあれ、この訴訟は業界全体に新たな説明責任の線を引く。内部セーフティレビューの記録が、法廷の証拠になりつつある。「社内で確認した」を終点にはできない。確認の後に何をしたか、何をしなかったのか、なぜしなかったのかが、一つひとつ精査される。
実務者への直接的な教訓はこうだ。暴力や自傷など高リスクコンテンツの内部処理手順には、監査可能で説明可能な通報基準が必要であり、それは社内マニュアルではなく、対外的に公開された安全ポリシーに書かれるべきだ。規制当局にとって、この訴訟は多くの国で「AI企業の警告義務」をめぐる立法論議を加速させる可能性がある。安全への投資は初めて、コスト項目から法的リスク項目へと変わりつつある。
