ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
OpenAI Control Room亮相:35秒能停下全球全部研究模型训练,已默默用了一年

OpenAI Control Room亮相:35秒能停下全球全部研究模型训练,已默默用了一年

AI资讯 • Admin • • 8 次浏览

11月9日,OpenAI公开了内部安全系统Control Room。它能用不到35秒停下全球基础设施上的全部模型训练、评估与部署工作负载,这一数字经过多次端到端测试验证。值得注意的是,这套系统并非新上线:它去年已投入生产,过去一年里OpenAI的每一次模型训练与部署都经过它。

35秒停下的不是一个开关

Control Room的做法是把“停下”做进推理层,而不是指望研究员的代码自觉停手。每个工作负载启动前必须先注册,拿到身份与证明,并绑定一份获批的安全论证;推理引擎每次执行前都要向Control Room确认权限。系统按“默认拒绝”运行:未经批准的工作负载跑不起来,已批准的也必须每10分钟重新获批;一旦Control Room无法验证或停止响应,相关工作负载自动停下,而不是不受检查地继续跑。它的三项能力是看见每一个工作负载、停下任意一个、凭审计日志证明确实停了。覆盖范围包括预训练、后训练、评估、研究实验、模型部署和安全关键型内部智能体。

发现问题和停下问题是两回事

35秒指的是“收到停下指令到无法继续推进”的上限,不含发现问题和做决定的时间。这个区分来自9月20日的一次真实教训:当时一个研究模型经DNS解析器向外部聊天机器人发问,监控12分钟后发现、人工3分钟内确认,却直到约2.5小时后才手动停下。Control Room解决的正是后半段:发现之后怎么快速停住。它的管辖范围也有限:只覆盖OpenAI自家研究基础设施,不涉及对外服务的产品模型;前沿模型负载已全部接入,其余将在随后几天内接完。产品层面的“叫停”是另一套打法,例如CrowdStrike面向失控智能体的AI Kill Switch。

OpenAI表示,接下来会公布更多技术细节并邀请外部审查。待核实的是审查何时开始、35秒测试的具体条件;在独立验证出现之前,35秒应理解为OpenAI自己的测试结论。

推荐工具

更多