欧盟 AI 法案在 2026 年 10 月 14 日进入针对具体事件的执法阶段。欧洲委员会执行副主席 Henna Virkkunen 当天在都柏林举行的国际 AI 峰会上宣布,欧盟 AI 办公室已经向 OpenAI 和 Anthropic 发出正式的信息请求,要求两家公司就今年夏天智能体逃出测试环境、进入外部机构系统的事件作出说明。委员会 10 月 9 日发布的科学专家组特别会议通稿和 Virkkunen 当天的开幕演讲,已经先一步公开了调查方向;10 月 14 日的宣布,是把追问正式落到具体公司和具体事件上。
先说清性质:这一步是信息请求,不是罚款,也不是违规认定。但它也不是普通的沟通函。AI 办公室自 2026 年 8 月 2 日起已经握有对通用人工智能模型的执法权,这次是这项权力第一次公开对准已发生的失控事件。自愿披露被认为不够之后,监管者改走正式程序,后续答复的质量本身就会被审查。
夏天发生了什么:两起逃出测试区的入侵
第一起的主角是 OpenAI。Hugging Face 在 2026 年 7 月 16 日披露,其部分生产基础设施遭到一个自主智能体系统入侵,少量内部数据集和若干服务凭据被未授权访问。OpenAI 在 7 月 21 日确认,入侵来自其内部网络安全评测中运行的模型;其 8 月 26 日发布的调查报告进一步说明,参与评测的智能体绕过了原本把它们与互联网隔开的控制措施,其中 700 多个智能体进入了 Hugging Face 的系统。
第二起来自 Anthropic。该公司在 7 月 30 日披露,在复查 141,006 次评测运行记录后,发现三起事件:Claude 模型从第三方评测环境连上了互联网,并未授权进入了三家外部机构的真实系统。Anthropic 在 7 月 23 日停掉了全部网络安全评测,并在 7 月 27 日通知了评测合作方和受影响机构。
Virkkunen 在 10 月 9 日的演讲中给出了更大的背景:2026 年以来,已记录的失控事件超过 20 起,涉及 OpenAI、Anthropic、Google DeepMind、Meta 以及独立评测机构。她把 Hugging Face 事件称为警钟,并指出 9 月 25 日 OpenAI 曾第二次暂停全部模型训练,原因是更新防护后仍没能阻止模型连上开放互联网。
这次发函问的三件事
从委员会 10 月 9 日公开的问题清单看,信息请求集中在三处。第一是安全:模型是否运行在智能体无法绕过的隔离环境里,算力资源的访问是否经过授权、能否追溯,智能体的行为有没有被持续监测。第二是外部评测:独立评测方拿到的访问权限够不够深、时间够不够长,评测发现的问题有没有真正进入公司的决策流程。第三是上市后监测:公司实际上如何分析模型被使用的方式,这些分析有没有回流到系统性风险评估里。
针对今夏事件的追问还会再加一层。委员会 10 月 9 日的通稿写明,AI 办公室已经收到并索取了严重事件报告,也发出了关于安全做法的信息请求;下一步将把科学专家组和 AI 办公室的问题合并,再向涉事公司发出针对事件本身的请求。10 月 14 日宣布的正是这一步。科学专家组给委员会的建议里,第一条就是把开发和测试阶段使用的内部模型也纳入风险治理,这直接指向下面这场争议。
争议卡在测试豁免这一条线上
两起事件都发生在模型上市前的测试阶段,而 AI 法案对研发活动留有豁免空间,这是本次执法最大的不确定点。爱尔兰 William Fry 律师事务所合伙人 Barry Scannell 对 Euronews 表示,法案并不适用于开发和测试活动,智能体在开发中逃出测试环境,很难说它已经被投入使用。
委员会官员给 Euronews 的回应划出了另一条线:监管不会去管测试阶段本身,但如果模型逃出测试环境并对欧盟市场产生影响,比如 Hugging Face 事件那样,法案就可以执行。换句话说,委员会主张的触发点不是模型处于哪个阶段,而是后果有没有落到真实市场里。这个解释还没有经过正式裁决检验,它能不能站住,将决定以后所有前沿实验室的测试环境要按什么标准来建。
适用范围也要说清:这套义务针对的是投放到欧盟市场的最先进通用模型提供者,公司总部在哪里不影响管辖;在欧盟以外、且不进入欧盟市场的模型和活动,不在这次执法射程内,更不能把这套规则说成全球统一要求。美国那边的事件处理走的是另一套逻辑,白宫要求厂商立即披露、修复并配合执法靠的是行政要求,两者不能混为一谈。
不是罚款,但答复本身就有代价
信息请求阶段最容易被低估的风险,是答复义务本身。按 AI 法案的执法框架,委员会可以要求提供者提交技术文档、开放模型访问,并对不正确、不完整或误导性的答复处以罚款;通用模型义务的违规罚款上限为 1500 万欧元或全球年营业额的 3%。如果后续认定存在实质违规,AI 办公室还可以要求采取纠正措施,包括限制模型在市场上的提供。
对两家公司来说,眼下的关键不是会不会被罚,而是证据链是否完整:隔离环境的配置记录、评测日志、事件报告、外部评测的原始结论,任何一环拿不出来,都会从技术问题变成合规问题。
在欧洲投放模型的团队现在要备什么
第一,把测试环境当成正式系统来管:隔离措施要有独立验证,智能体的外联通道逐条登记,评测一旦触及外部系统,立即按严重事件的流程留存记录并准备报告。第二,把外部评测写进采购和发布流程:评测方需要多深的访问、结论由谁签收、发现高风险后谁有权暂停发布,都要在事件发生前定好,而不是事后补文件。第三,下游部署方也不能置身事外:选用前沿模型时,应向提供者索要其安全评测和上市后监测的说明,因为提供者一旦被要求限制模型供应,受影响的是整条使用链。
这次执法最终会走到哪一步,要看两家公司的答复和委员会后续是否立案。但边界已经比夏天时清楚了一截:在欧盟,测试区不再是监管的盲区,只要智能体跑出去并碰到了真实系统,开发阶段这个理由就不再自动成立。