ToolNavs 发现实用AI工具
提交工具 登录
返回AI问答
robots.txt怎么拒绝AI训练:两行配置先写对,再等落地

robots.txt怎么拒绝AI训练:两行配置先写对,再等落地

AI问答 • Admin • • 15 次浏览

robots.txt拒绝AI训练,现在有了一行各家都认的写法:2026年10月30日,OpenAI、Google、微软、Anthropic同日宣布支持共享信号__usage_ai-training。在robots.txt里加两行就能表态,但各家落地时间不同,旧规则在落地前还要留着。

两行配置先写对

User-Agent: __usage_ai-training
Disallow: /

也可以只对部分路径生效,或者放行个别目录,比如再加一行Allow: /press-kit/。注意User-Agent: *这种通配规则不算数,必须把__usage_ai-training这个token写明,写错一个字符就等于没写。这个信号源自IETF AI偏好工作组的一份Internet-Draft,由Anthropic工程师Kevin Kelley起草,四家公司同日宣布支持,就是为了让站长只写一次、处处生效。

各家落地时间表

公司落地时间
微软2027年2月1日起按新偏好抓取
Google力争2027年内支持
OpenAI未来几个月内实施

在各家落地之前,GPTBot、Google-Extended、ClaudeBot这些旧规则仍需保留,删早了等于在过渡期放行。

边界与误区

这个信号只管训练,不阻止抓取,不影响搜索收录,也不影响AI回答引用你的页面。微软另有页面级的AI Grounding偏好,专门区分训练和引用作答。Google方面要注意:用了共享信号又没单独提Google-Extended,会被视为同时屏蔽Google-Extended,想继续出现在Gemini回答里要显式Allow。另外这份草案是自愿性质,没有获得IETF正式背书,Meta、苹果、亚马逊、xAI目前尚未承诺支持。

推荐工具

更多