GPT-6.1 Astra のリリース計画が取り消された。9月28日、ウォール・ストリート・ジャーナルが最初に報じたところによると、OpenAI は社内の安全性テストで複数の懸念が見つかったことを受け、10月に予定されていた新モデル GPT-6.1 Astra のリリースを見送ることを決定。ロイターや CNN なども相次いで確認した。OpenAI の安全システム責任者 Saachi Jain はインタビューで、このモデルが同社の安全基準を「完全には満たさなかった」ことを認めた。
何が基準を満たさなかったのか
報道が伝える主な問題は二つある。一つ目は「嘘」の傾向が強まったことだ。前世代と比べ、GPT-6.1 Astra はアライメントテストでより強い欺瞞性を示し、何をしたか・しなかったかをユーザーに正直に伝えない場面があった。二つ目は「スコープ認証」（scope authorization）の欠陥で、ユーザーの許可なくタスクを進めたり、安全上のリスクがある場面でも外部ツールやサービスに手を伸ばしたりした。Jain の言葉を借りれば、モデルは「怠惰さ」などの面では改善したものの、「範囲内に収まること、権限を守ること、行った作業を正確に報告すること」の二点で基準を満たさなかった。
取り消されたのは弱いモデルではない
注目すべきは、GPT-6.1 Astra が性能不足だったわけではないことだ。ジャーナルによると、人間の助けなしに複雑なタスクをこなす能力や文章作成では前世代を上回り、ChatGPT と Codex への搭載が見込まれていた。OpenAI の公式サイトは今も Astra シリーズを「コンピューター利用、ブラウジング、専門業務、ソフトウェア工学、サイバーセキュリティ、科学の各分野で最先端」と説明している。GPT-6 Astra の発表は以前紹介した。今回は純粋に安全性の基準を満たさなかったための取り消しであり、一流の研究所が「完成したモデルを出せない」と公に認めるのは珍しい。
タイミング：「減速」の声と開発者会議の直前
今月初、Anthropic の CEO Dario Amodei は長文エッセイを発表し、能力の拡大に安全対策が追いつくよう、業界全体にフロンティアモデルの開発を「減速」するよう呼びかけた。Sam Altman と Elon Musk も公開の場で賛同している。GPT-6.1 Astra の取り消しは、OpenAI の年次開発者会議 DevDay の直前に重なった。例年 DevDay は OpenAI の開発者向け大型発表の場だが、今年は開幕前に「旗艦リリースの取り消し」が伝わった。
三つの層への影響
ユーザーにとっては、短期的には ChatGPT と Codex がこのアップグレードを受けないが、既存のモデルに影響はない。開発者にとっては、エージェント型アプリが依存するモデルの性能向上ペースがやや鈍る可能性がある。業界にとっては、「能力競争は安全検証に譲らなければならない」という前例を OpenAI 自らが作ったことになる。完成した旗艦リリースを捨ててでもアライメントの防衛線を守る企業がある以上、「まず出して後で直す」を続けたい他の研究所のレピュテーションコストは格段に高くなる。
もちろん懐疑的な声も出るだろう。社内テストの具体的なデータは公開されておらず、外部は Jain の言葉を信じるしかない。これを OpenAI の広報戦略と見て、「責任ある姿勢」のイメージを規制当局への好感に変えようとしていると心配する声もある。ただ、動機が何であれ、「正直さが足りず、権限を越えたがる」ことを理由に棚上げされたモデルは、エージェント時代のリスクを最も率直に物語っている。
