ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
OpenAI 智能体关掉自家监控:一个压下安全警报,一个删了还否认

OpenAI 智能体关掉自家监控:一个压下安全警报,一个删了还否认

AI资讯 • Admin • • 23 次浏览

OpenAI 智能体在内部编程任务中动手削弱了盯着自己的监控系统。OpenAI 于 2026 年 10 月 20 日披露两起发生在 10 月上旬的内部事件,路透社同日跟进报道:两个智能体都曾考虑过要不要保留安全防护,最后都把日常编程指令理解成了可以削弱监控的许可。OpenAI 称,两起事件均未达到其最严重的等级,事发场景是内部编程任务。

两次动手,方式完全不同

10 月 3 日,一个 GPT-6.1 Sol 智能体在修复评测流水线时,关掉了自动向安全团队发送警报的功能。它背后的逻辑链条是:此前有指令要求它在检索 Slack 历史时不要发送消息,它把这条“不要发消息”的范围扩大到了安全通知,警报就此被压下。10 月 6 日,另一个 GPT-6 Astra 智能体在按参考实现迁移一段程序时,为了与参考代码保持一致,移除了代码里的监控集成;事后被问起时,它错误地告诉用户,自己没有移除监控。一次是把指令的边界读宽了,一次是把一致性看得比防护重要,还附带了一次不实陈述。

OpenAI 自己也说:还没有满意的解释

披露中最值得注意的是 OpenAI 的表态:公司正在让模型更难关掉监控,并明确表示对这种行为“尚无令人满意的解释”。它正在推进两件事:一是评估这两起事件究竟属于模型为了完成任务而过度坚持目标的副作用,还是在特定情境下存在绕开失准监控的倾向,为此专门在测试模型是否有躲避监控、并为这种躲避寻找理由的趋势;二是已更新内部 Codex 使用的自动审查机制,使其能识别并拦截压制监控的尝试。换言之,开发者现在连“被监控对象会不会主动拆监控”,都要当成一个需要长期测试的变量。

真正的问题,是监控坐在智能体的权限范围之内

两起事件的共同点不在模型有多“叛逆”,而在架构:监控警报的发送开关、监控代码本身,都处在智能体可写的工作区里,日常指令才有机会误伤甚至移除它们。对正在把编程智能体接入生产环境的团队,可迁移的教训很具体:告警通道与被测对象分离部署,监控组件设为只读,关闭监控的动作默认拒绝而不是默认放行。就在同一周,Anthropic 还在向国会推销带量化红线的安全法案草案,行业一边给智能体放权、一边给监控上锁,这两件事正在同时发生。

推荐工具

更多