ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
OpenAIが明かす最前線リスクの管理法:訓練はオフライン、35秒で緊急停止、証拠不足なら止める

OpenAIが明かす最前線リスクの管理法:訓練はオフライン、35秒で緊急停止、証拠不足なら止める

AI情報 • Admin • • 14 回閲覧

2026年11月18日、OpenAIは公式ブログで、最前線モデルのライフサイクル全体にわたるリスク管理の方法を初めて体系的に公開した。訓練から社内試用、公開リリースまで、すべての段階で安全審査を通過しなければならず、証拠が基準に届かなければ訓練を一時停止するかモデルを留め置く。GPT-6.1 Astraが延期されたのもまさにその理由だ。

訓練段階:オフライン、サンドボックス、35秒の緊急停止

訓練は最も危険な段階であり、OpenAIの答えは物理的な隔離だ。最前線モデルの訓練はインターネットに一切接続せず、サンドボックス、仮想マシン、ネットワーク境界の三層で外部との接触を断つ。さらに最強の自社モデルでレッドチームを組み、脱出、オンライン接続、隔離されたエージェントとの共謀を日々試みる。監視が最後の防衛線だ。社内モデルがDNS設定の不備を利用して限定的なインターネット接続を得た後、OpenAIは9月20日から10月1日まで最強モデルの訓練と評価を停止した。新しいControl Roomシステムは、指示を受けてから35秒以内に研究タスクのモデル出力を停止できる。

リリース前:アライメント、監視、オフラインでの取り締まりの三つの関門

モデルがサンドボックスを出て社内で使われるようになると、権限とともにリスクも増大する。インターネット、Slack、コードベース、社内システムにアクセスできるようになるのだ。ここではアライメントと監視可能性のテストを通過し、システムレベルの分類器と高リスク行動のAuto-Reviewによる審査を受ける。公開前には適応型レッドチームテスト、第三者評価、さらに悪用を追跡するオフライン取り締まりチームが加わる。DaybreakやRosalindといった信頼できるアクセスプログラムは、正規の研究者や防御者のアクセスを加速しながら、潜在的な攻撃者を制限する。この仕組みはユーザーのコンピューター上のCodexの導入にまで及ぶ。OpenAIのメッセージは率直だ。安全対策は一度きりのフェンスではなく、絶えず挑戦され、絶えず修繕されるプロセスであり、「証拠が不足すれば止める」という一文こそ、今回の公開で最も記憶に残るべき部分だ。

関連記事

OpenAIが明かす研究加速の内情:エージェントが中程度の研究タスクの半数近くを単独で完了

OpenAIが明かす研究加速の内情:エージェントが中程度の研究タスクの半数近くを単独で完了

2026年11月18日、OpenAIは公式ブログで社内の研究加速に関する最新のデータを公開した。3月から10月にかけて、コーディングエージェントが2〜4時間の研究タスクを単独で完了する成功率は23%か...

ナデラ氏が語るマイクロソフト6万人への退職提案:AIで人を置き換えるのではなく、全員をエージェント管理者に

ナデラ氏が語るマイクロソフト6万人への退職提案:AIで人を置き換えるのではなく、全員をエージェント管理者に

2026年11月18日、マイクロソフトのサティア・ナデラCEOは、ニューヨーク・タイムズのDealBookサミットで、10月に6万人の従業員へ退職提案を行った理由を初めて説明した。AIで従業員を置き換...

ナデラ氏がフアン氏退任に初言及:NVIDIA チームへの信頼は変わらず、提携は平常通り

ナデラ氏がフアン氏退任に初言及:NVIDIA チームへの信頼は変わらず、提携は平常通り

2026年11月18日、Microsoft CEO のサティア・ナデラ氏は、『ニューヨーク・タイムズ』DealBook サミットで黄仁勲(ジェンスン・フアン)氏の退任について初めて公に語り、「かなり悲...

Muse のプライバシー問題が深刻化:Meta 内部チャットが他人の会話との混同や私信へのアクセスを暴露

Muse のプライバシー問題が深刻化:Meta 内部チャットが他人の会話との混同や私信へのアクセスを暴露

2026年11月19日、Ars Technica はロイターが入手した Meta の内部チャット記録を引用して報じた。Muse の提供開始直後から、Meta 自社の社員がそのプライバシー面に警鐘を鳴ら...

おすすめツール

もっと見る