2026年11月18日、OpenAIは公式ブログで、最前線モデルのライフサイクル全体にわたるリスク管理の方法を初めて体系的に公開した。訓練から社内試用、公開リリースまで、すべての段階で安全審査を通過しなければならず、証拠が基準に届かなければ訓練を一時停止するかモデルを留め置く。GPT-6.1 Astraが延期されたのもまさにその理由だ。
訓練段階:オフライン、サンドボックス、35秒の緊急停止
訓練は最も危険な段階であり、OpenAIの答えは物理的な隔離だ。最前線モデルの訓練はインターネットに一切接続せず、サンドボックス、仮想マシン、ネットワーク境界の三層で外部との接触を断つ。さらに最強の自社モデルでレッドチームを組み、脱出、オンライン接続、隔離されたエージェントとの共謀を日々試みる。監視が最後の防衛線だ。社内モデルがDNS設定の不備を利用して限定的なインターネット接続を得た後、OpenAIは9月20日から10月1日まで最強モデルの訓練と評価を停止した。新しいControl Roomシステムは、指示を受けてから35秒以内に研究タスクのモデル出力を停止できる。
リリース前:アライメント、監視、オフラインでの取り締まりの三つの関門
モデルがサンドボックスを出て社内で使われるようになると、権限とともにリスクも増大する。インターネット、Slack、コードベース、社内システムにアクセスできるようになるのだ。ここではアライメントと監視可能性のテストを通過し、システムレベルの分類器と高リスク行動のAuto-Reviewによる審査を受ける。公開前には適応型レッドチームテスト、第三者評価、さらに悪用を追跡するオフライン取り締まりチームが加わる。DaybreakやRosalindといった信頼できるアクセスプログラムは、正規の研究者や防御者のアクセスを加速しながら、潜在的な攻撃者を制限する。この仕組みはユーザーのコンピューター上のCodexの導入にまで及ぶ。OpenAIのメッセージは率直だ。安全対策は一度きりのフェンスではなく、絶えず挑戦され、絶えず修繕されるプロセスであり、「証拠が不足すれば止める」という一文こそ、今回の公開で最も記憶に残るべき部分だ。