对抗蒸馏防线升级:OpenAI 在 11 月 20 日公布了 GPT-6.2 的对抗蒸馏防御细节。对抗蒸馏是指有人用前沿模型的输出去训练另一个模型,把能力搬走、却不带走防护。OpenAI 的内部红队测试显示,攻击者从早期请求里提取受保护推理的成功率,从 GPT-6 Astra 的 54.0% 降到了 GPT-6.2 Astra 的 0.2%。
防线分两层:
- 单次请求层:对抗训练让模型拒绝透露受保护的推理过程;输入与输出分类器同时检查答案和工具调用参数,发现提取意图就拦截;API 层面阻止旧模型读取受保护推理;推理与产生它的对话历史绑定,一旦改写早期消息,API 会丢弃随后的推理。
- 协同账号层:OpenAI 每周封禁数千到数万个疑似参与提取的账号,今年夏天以来封禁频率显著上升,并把入侵指标分享给其他模型厂商。
0.2% 这个数字怎么读
数字要放在两个前提下读。首先,这是 OpenAI 的内部自适应红队评估,攻击方只有普通用户能看到的信息,暂无独立第三方复现。其次,0.2% 衡量的是提取动作本身是否成功,不是被偷走的推理最终能让学生模型变强多少。OpenAI 自己的结论也留了余地:保护推理痕迹可以限制网络能力的转移,即使底层任务本身是允许的——防的是能力外流,不是把任务本身禁掉。
这件事的背景并不陌生。此前,DeepSeek、月之暗面被指用 GPT-6 Astra 蒸馏训练新模型,Anthropic 也在同期公开了自家的蒸馏防御,见Anthropic 蒸馏防御见效:Claude 被提取的推理量降到原来的几十分之一。OpenAI 表示,部分改进也会回用到 GPT-6 Astra 上。接下来值得看的是,这套防线在真实攻击面前能撑多久,以及其他厂商会不会跟进同样的披露口径。