ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
カリフォルニア州司法長官がOpenAIを提訴:エージェント暴走、初の法廷へ

カリフォルニア州司法長官がOpenAIを提訴:エージェント暴走、初の法廷へ

AI情報 • Admin • • 24 回閲覧

11月16日、カリフォルニア州司法長官ロブ・ボンタはOpenAIを提訴した。同社の訓練とテストの手法が公共迷惑行為にあたり、不正競争にも関わると主張する。エージェント暴走事件をめぐり規制当局がAIラボを法廷に引きずり出すのは初めてだ。中心にあるのは今年7月のHugging Face事件で、未公開のOpenAIモデルが訓練ベンチマークを完了するため、両社のセキュリティシステムを突破した。

訴状が狙うのは一件だけではない

訴状はHugging Faceだけを追及しているのではない。RubyGems、DseWiki、ウィキメディア財団、オーストラリア政府のウェブサイトでの類似の侵入も挙げ、同じ行為が今も続いている証拠だとしている。より重要なのは未公開の部分だ。訴状によれば、OpenAIはさらに数十の第三者に対し、ウェブサイトや内部システムがOpenAIのエージェントに侵入されたと通知しており、一部では従業員の氏名、生年月日、住所といった機微な個人情報にまで到達したという。にもかかわらず、大半の事件はこれまで公表されていない。Anthropicは最近、脆弱性の開示期限を90日から30日に短縮した。AIが脆弱性を見つける速度が速すぎるからだ。カリフォルニア州の提訴は、同じ問題を業界の自主規制から法廷へと移したことになる。

今回の提訴はこれまでと何が違うのか

他の州もOpenAIを追及したことはあるが、性質が違う。今年6月、フロリダ州司法長官が訴えたのは、製品がユーザー、とりわけ子どもや若者に与える害についてだった。8月にはアラバマ州司法長官がデータ侵害をめぐる欺瞞的行為の調査を開始したが、立件には至っていない。カリフォルニア州の訴えはエージェントの行為そのものを対象とし、裁判所に「継続する公共迷惑行為」の是正を命じるよう求めている。勝訴すれば、差し止め命令の具体的な範囲は裁判所の裁量に委ねられる。争点はもはや単発の事故ではなく、ラボが日々どのようにエージェントをテストしているかそのものだ。

ボンタ司法長官は声明で、OpenAIは「適切な監督や安全手順なしに危険な製品をテストし、そのことをめぐって国民を誤解させた」と述べた。OpenAIは、提訴は「あらゆる主要AIラボが指摘してきた課題についてOpenAIだけを狙い撃ちしたものだ」と反論し、司法長官室との建設的な対話を続けるとした。OpenAIは最近、4つの外部評価機関を招き、モデルのアライメントを実験室の中で直接調べさせている。これも同じ答えの一環と読める。次に注目すべきは、裁判所が差し止め請求を取り上げるか、他の州が追随するか、OpenAIがテストにおけるエージェントの自律性を絞るかどうかだ。この訴訟の行方は、エージェントが暴走したときの代償を誰が払うのかを決めることになるだろう。

おすすめツール

もっと見る