robots.txtに、AI学習のオプトアウトを示す共通の信号が加わる。2026年10月30日、OpenAI、Google、Microsoftは同日、共通信号 __usage_ai-training に対応すると発表した。この信号は、インターネット・エンジニアリング・タスクフォース(IETF)のAIプリファレンス作業部会によるInternet-Draftに由来し、AnthropicのKevin Kelleyが起草した。ウェブサイトはrobots.txtに2行——User-Agent: __usage_ai-training と Disallow: /——を書くだけで、パスを限定することもでき、クローラーごとに別々のルールを維持する代わりに、参加する事業者へ一度に「学習に使わないでほしい」という意思を伝えられる。
| 事業者 | 導入スケジュール |
|---|---|
| Microsoft | 2027年2月1日から新しい設定に従ってクロール |
| 2027年内の対応を目指す | |
| OpenAI | 今後数か月以内に実装 |
信号の適用範囲も重要だ。対象は学習のみで、クロールや検索への収録を妨げず、AIの回答がページ内容を引用することも止めない。Googleは、新しい信号を使いGoogle-Extendedに言及しないサイトは、Google-Extendedもブロックしたものとして扱い、Google-Extended自体は残すと補足した。Microsoftはさらに踏み込む。共通の学習設定に加え、ページ単位の学習設定と、独立したAI Grounding設定を導入する。後者は、コンテンツをAI回答の生成に使ってよいかを決めるもので、「学習」と「回答での引用」という二つの用途を分ける。
サイト運営者にとって、今のところこの1行の設定だけでは足りない。草案はあくまで任意のもので、IETFの正式な承認は得ておらず、各社の導入時期も異なる。各社が2027年に実際に支持するまでは、従来のクローラー制御を残しておく必要がある。本当の変化は調整そのものにある。かつて学習のオプトアウトは事業者ごとにルールを交渉する必要があったが、いまや主要なモデル事業者4社が初めて同じ信号の後ろに並んだ。この2行の価値が確かめられるのは、導入スケジュールが実行されてからだ。