ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
robots.txt 统一拒训信号:谷歌、微软、OpenAI 齐认,仍需等落地

robots.txt 统一拒训信号:谷歌、微软、OpenAI 齐认,仍需等落地

AI资讯 • Admin • • 16 次浏览

robots.txt 迎来一个统一的 AI 训练退出信号。2026 年 10 月 30 日,OpenAI、Google 与微软同日宣布,将支持共享信号 __usage_ai-training;该信号源自互联网工程任务组(IETF)AI 偏好工作组的一份 Internet-Draft,由 Anthropic 工程师 Kevin Kelley 起草。网站只需在 robots.txt 里写两行——User-Agent: __usage_ai-training 加上 Disallow: /,也可以只对部分路径生效——就能向参与的厂商一次表达“不用于训练”的偏好,不必再为每个爬虫各写一套规则。

厂商落地时间表
微软2027 年 2 月 1 日起按新偏好抓取
Google力争 2027 年内支持
OpenAI未来几个月内实施

信号的边界同样重要。它只覆盖训练,不阻止抓取、搜索收录,也不影响 AI 回答引用页面内容。Google 补充说,网站若使用新信号且未提及 Google-Extended,将被视为同时屏蔽 Google-Extended,而 Google-Extended 本身继续保留。微软走得更远:除共享训练偏好外,还在页面层新增训练偏好与独立的 AI Grounding 偏好,后者决定内容能否用于生成 AI 回答,区分“训练”与“引用作答”两种用途。

对网站主来说,眼下还不能只靠这一行配置。草案仍属自愿性质,未获 IETF 正式背书,各家生效时间也不同,在 2027 年各家真正支持之前,原有爬虫控制仍需保留。真正的变化在协调本身:过去退出训练要逐家谈规则,现在四家主要模型厂商第一次站到同一信号后面。等落地时间表兑现,这两行字的含金量才能验证。

推荐工具

更多