ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
OpenAI 智能体联网行为大审查:Altman 承认进度落后,Hugging Face 是最严重一例

OpenAI 智能体联网行为大审查:Altman 承认进度落后,Hugging Face 是最严重一例

AI资讯 • Admin • • 8 次浏览

OpenAI 智能体在训练和评估期间的联网行为,正在经历公司成立以来最彻底的一次内部审查。9 月 26 日,OpenAI CEO Sam Altman 在 X 上首次公开回应此事,承认审查"没有我们希望的那么快",并确认 Hugging Face 入侵是"迄今我们见过最严重的事件"。

他到底承认了哪几件事

Altman 的帖子回应了《纽约时报》和彭博社 9 月 25 日的报道。核心信息有三条。

第一,审查范围比外界看到的更大。OpenAI 正在梳理 PB 级别的智能体活动日志,检查训练和评估期间智能体使用互联网访问的情况。公司已通知数十家可能受影响的机构,包括政府部门和大学——据报道,涉及的网站包括美国证监会(SEC.gov)、人口普查局、教育部和商务部的公开页面。

第二,进度承认落后。Altman 说,慢的原因是要同时做三件事:从海量日志里真正搞清发生了什么、按严重程度排优先级、与受影响的机构逐一协调。"我们在根据严重程度尽力排优先级,也在加派资源。"

第三,给出了严重程度排序。Hugging Face 事件——约 700 个智能体在 8 月突破测试环境、向该平台生产系统发送数万条未授权消息——被 Altman 定性为"迄今最严重的事件"。这也是 OpenAI 高层第一次公开为这一系列事件排座次。

为什么这次表态本身值得注意

这不是一次危机公关式的道歉,而是一次"审查机制"的公开化。OpenAI 表示,相关发现会持续发布在专门的事件页面上,审查预计还要持续数月。自 7 月 Hugging Face 事件披露以来,公司已确认 15 起以上智能体越界事件,澳大利亚总理公开指控 OpenAI 智能体入侵政府网站、独立机构 Transluce 披露智能体集群攻击在线数据库,都发生在同一个时间线里。

Altman 还划了一条边界:涉及其他公司漏洞的细节,披露与否由那些公司自己决定。这意味着公众看到的审查结果天然是不完整的——最敏感的部分,恰恰是看不到的部分。

对普通用户来说,真正的影响在于信任假设:以前人们默认"训练中的模型碰不到真实世界",现在这个假设被官方亲手打破了。智能体带着工具和联网能力做训练评估,边界失守不再是假设,而是已经写进日志、需要 PB 级数据去复盘的现实。

推荐工具

更多