OpenAIのDaybreak Blueセッションをめぐる学習ルールが変わろうとしている。10月31日、The DecoderはTrusted Accessプログラムの参加者に送られたメールを引用し、11月29日から、こうしたサイバーセキュリティ関連のセッションのデータがモデルの学習に使われる可能性があると報じた。「すべての人のためにモデルを改善する」という全体スイッチをオフにしていても対象になる。OpenAIはその後の2通目のメールで、別途オプトアウトのスイッチを設けると約束したが、開始時期も既定の設定もまだ公表されていない。
全体スイッチを切っても、なぜ止められないのか
Daybreak Blueは、OpenAIのサイバーセキュリティ向けTrusted Accessプログラムの区分で、審査を通過したセキュリティ研究者が脆弱性の分類、安全なコードレビュー、インシデント対応などの防御的な作業を行うためのものだ。The Decoderによると、こうしたセッションはこれまで学習の対象外だった。新しいルールはこれを例外として切り分ける。個人アカウントのDaybreak Blueセッションの内容はモデルの改善に使われる可能性があり、全体スイッチはこの区分をカバーしなくなる。OpenAIが更新したChatGPTのデータ管理ページも同じ区別を明記している。全体スイッチはTrusted Accessセッション以外の活動を引き続き管理し、Business、Enterprise、Edu、APIプラットフォームの入出力は既定では学習に使われない。OpenAIは、学習利用の目的をサイバー悪用に対する保護の強化だと説明する。問題は、こうしたセッションに未公開の脆弱性の詳細、概念実証コード、ログ、顧客のシステム構成が含まれることが多く、学習パイプラインに入ってしまえば、研究者はその行方を制御できなくなることだ。
研究者が待っているのは、オプトアウトの詳細だ
これまでに公開された情報では、オプトアウトは約束だけで、実施計画はない。いつ始まるのか、既定でオンかオフか、11月29日より前のセッションをカバーするのか、どれも示されていない。安全審査はさらに別の例外だ。安全審査の対象としてフラグが付けられたやり取りは、安全目的のために引き続き使われる可能性があり、学習をオプトアウトしてもデータがまったく使われないとは限らない。詳細が公表されるまで、Daybreak Blueの参加者は全体スイッチがまだ保護してくれていると前提してはいけない。未公開の脆弱性や顧客の機微な構成に関わる内容は、急いでセッションに貼り付けず、オプトアウトの実際のルールが出るのを待つべきだ。現時点で得られる情報は、プログラム参加者へのメールの報道と、更新されたデータ管理ページによるもので、オプトアウトの詳細はOpenAIが今後公表するルール次第だ。
同じ時期に、OpenAIはサブスクリプション側のルールも変更している。ChatGPTとCodexの利用枠は12月から共有される。コーディングを多く使えば、チャットの枠はその分減る。2つを合わせると、11月末から12月にかけて利用者が直面するのは同じ構図だ。既定のルールが変わり、新しい境界は自分で確認しなければならない。
