ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
OpenAI が敵対的蒸留への防御を公開:GPT-6.2 は推論抽出の成功率を 54% から 0.2% に

OpenAI が敵対的蒸留への防御を公開:GPT-6.2 は推論抽出の成功率を 54% から 0.2% に

AI情報 • Admin • • 21 回閲覧

敵対的蒸留への防御が強くなった。OpenAI は 11 月 20 日、GPT-6.2 の敵対的蒸留防御の詳細を公開した。敵対的蒸留とは、最先端モデルの出力を利用して別のモデルを訓練し、能力だけを移し、保護は置き去りにする手法だ。OpenAI の内部レッドチーム試験では、過去のリクエストから保護された推論を抽出する成功率が、GPT-6 Astra の 54.0% から GPT-6.2 Astra の 0.2% に下がった。

防御は 2 層からなる。

  1. リクエスト層:敵対的訓練により、モデルは保護された推論の開示を拒む。入力・出力分類器が回答とツール呼び出しの引数を同時に検査し、抽出の試みを遮断する。API 側の制御により、旧モデルが保護された推論を読むことはできない。推論はそれを生んだ会話履歴に結び付けられており、過去のメッセージが書き換えられると、API はそれに続く推論を破棄する。
  2. キャンペーン層:OpenAI は抽出キャンペーンへの関与が疑われるアカウントを毎週数千から数万件停止しており、今年の夏以降、その頻度は著しく上がっている。侵害の指標は他のモデル提供者とも共有される。

0.2% という数字の読み方

この数字には 2 つの前提がある。第一に、これは OpenAI の内部適応型レッドチーム評価であり、攻撃者が見られるのは一般ユーザーと同じ情報だけで、独立した第三者による再現はまだない。第二に、0.2% が測っているのは抽出行為そのものの成否であり、盗まれた推論によって生徒モデルが最終的にどれだけ強くなるかではない。OpenAI 自身の結論も余地を残している。推論の痕跡を保護することは、たとえ基礎となるタスク自体が利用規約で認められたものであっても、サイバー能力の移転を制限できる。防ぐのは能力の流出であり、タスクそのものの禁止ではない。

背景は見覚えがあるものだ。先にDeepSeek と Moonshot AI が GPT-6 Astra の出力を蒸留して新モデルを訓練したと指摘された。Anthropic も同時期に自社の蒸留防御を公開している。Anthropic の蒸留防御が効果を発揮:Claude から抽出される推論量は従来の数十分の 1 にを参照してほしい。OpenAI によれば、改善の一部は GPT-6 Astra にも適用される。今後注目すべきは、この防御が実際の攻撃にどれだけ持ちこたえるか、そして他社が同じような開示に追随するかどうかだ。

おすすめツール

もっと見る