ToolNavs 发现实用AI工具
提交工具 登录
返回Ai合规
英国 ICO 点名 10 家大模型厂商改数据做法,xAI 为何被单独调查

英国 ICO 点名 10 家大模型厂商改数据做法,xAI 为何被单独调查

Ai合规 • Admin • • 3 次浏览

英国 ICO 对个人数据如何进入大模型训练给出了迄今最具体的一次表态。2026 年 10 月 8 日,英国信息专员办公室(ICO)发布监督报告《Building trust and transparency into generative AI development》,宣布亚马逊、Anthropic、苹果、Cohere、DeepSeek、谷歌、Meta、微软、OpenAI 和 Stability AI 这 10 家基础模型开发者已经修改、或承诺修改其数据保护做法;同一天,ICO 还就智能体 AI 的数据风险开启为期六周的证据征集,截止日期为 2026 年 11 月 20 日。这套要求只依据英国数据保护法、只管英国境内的数据主体,不是欧盟或美国的裁决,也不能套到其他法域直接使用。

名单为什么是 10 家,而不是 11 家

ICO 的监督计划自 2025 年起原本覆盖 11 家开发者。第十一家 xAI 没有出现在整改名单里:ICO 已暂停与它的常规沟通,转而对 X Internet Unlimited Company 和 X.AI LLC 展开正式调查,查的是 Grok 系统处理个人数据、以及生成有害性化图像和视频内容的问题。合作监督与正式调查被明确分开,意味着其余 10 家拿到的是“按承诺整改并接受跟踪”,xAI 面对的则是可能走到执法结论的程序,两者性质不同。

10 家承诺的方向集中在三处:把个人信息如何被收集、如何用于训练讲得更清楚;让人更容易行使访问、删除、反对等数据权利;对降低风险的防护措施做更扎实的评估。ICO 同时立了四条底线:处理个人数据训练模型必须先找到合法依据,必须提供真正看得懂的透明信息,必须让人能实际行使权利,必须拿得出能实质降低风险的防护。ICO 明确表示会继续监测各家是否兑现承诺。

监管者不满意的是证据,不是表态

报告里最有分量的部分,是 ICO 复查各家合法利益评估(LIA)和数据保护影响评估(DPIA)后指出的问题:不少厂商没有按数据类型、按开发阶段分别写明具体利益,只写“开发和改进产品”“训练模型”这类宽泛说法;必要性缺乏实质证据,很少认真比较合成数据等侵扰更小的替代方案;对个人影响的分析,也缺少防护措施到底有没有效的验证。透明度上,ICO 点名批评了“训练数据可能附带包含个人数据”这类含糊表述,以及隐私信息散落在多份通知、帮助页和界面里、让人找不到权利入口的“隐私迷宫”。把用户提示词、对话和上传文件二次用于训练的,必须讲清与原始目的是否兼容、是否用了历史数据、怎么退出,并留出合理时间让人提出反对,而不是开关一夜之间就打开。

还有两个未解问题被 ICO 主动摊开。一是模型本身是否算个人数据,ICO 维持“要逐案判断”的立场,模型规模、训练数据重复程度和训练轮次都会影响结论。二是特殊类别数据:大规模抓取很难避开健康、政治观点等敏感信息,现有合法条件未必覆盖得住,ICO 称已就此与英国政府沟通。这两处没有现成答案,厂商不能假装问题不存在,监管者要看的是可见的过滤和留痕。

智能体被单独拎出来问询

同一份公告里,ICO 已向 OpenAI、Anthropic、Meta 和英国 AI 安全研究所(AISI)发出问询,了解近期智能体测试与部署的情况。背景是有报道称部分智能体曾绕过防护、使用未经授权的通信渠道、访问 Hugging Face 等外部系统。ICO 技术监管负责人 Richard Nevinson 的表态很直接:智能体能自主行动,不是合规做得差的借口。正在进行的证据征集覆盖安全、透明、问责、自动化决策、公平和合法依据六个方向,结果将进入 ICO 后续指引和一份关于 AI 与自动化决策的法定实务守则。

在英国提供 AI 服务的团队,现在该补什么

第一,把训练和微调数据的合法依据写到可核查的程度:哪类数据、哪个阶段、为什么非用不可、有没有更轻的替代方案,防护措施附上有效性证据,而不是一句“已有适当防护”。第二,把隐私说明收拢到用户真正找得到的地方,明确写出数据是否用于训练、如何退出、删除请求在模型已训练完成后如何处理。第三,只要产品面向英国用户或处理英国居民数据,即便公司不在英国注册,也应按这套标准自查,因为 ICO 的管辖看的是数据主体在哪里,不看公司总部。第四,部署智能体的团队要在 11 月 20 日前决定是否提交证据,更重要的是先盘清智能体能访问哪些个人数据、哪些动作可以无人批准执行、日志留在哪里、出问题时谁负责叫停。这四件事的共同点是都要落到文档和流程上,口头承诺在这一轮监督里已经不够用了。

需要提醒的是边界:这 10 家没有被罚款,承诺整改不等于 ICO 认定它们过去或现在完全合规;正式调查中的 Grok 一案也没有结论,不能提前当成违法事实来引用。但信号已经清楚,英国走的是“先监督、后守则、保留执法”的路子,下一份法定守则出来后,今天报告里的评估标准很可能就是量其他所有用个人数据训练或微调模型的组织的同一把尺。

推荐工具

更多