英国ICOは、個人データが大規模モデルの学習に入る条件について、これまでで最も具体的な見解を示した。2026年10月8日、英国の情報コミッショナー事務局（ICO）は監督報告書「Building trust and transparency into generative AI development」を公表し、Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AIの10社がデータ保護の対応を変更した、または変更を約束したと発表した。同日、エージェント型AIのデータ保護リスクに関する6週間の証拠募集も始まり、締切は2026年11月20日である。これらは英国のデータ保護法に基づき、英国のデータ主体だけに適用される。EUや米国の判断ではなく、他の法域にそのまま持ち込むことはできない。
なぜ11社ではなく10社なのか
2025年に始まったICOの監督プログラムは当初11社を対象としていた。11社目のxAIは変更約束の名簿にない。ICOは通常の対話を止め、Grokシステムによる個人データの処理と、有害な性的画像・動画コンテンツを生成しうる問題について、X Internet Unlimited CompanyとX.AI LLCへの正式調査を開始した。協調的な監督と正式調査は明確に分けられている。他の10社は「約束どおり改善し、進捗を監視される」という扱いであり、xAIは執行判断に至りうる手続きに置かれている。
10社の約束は三つの方向に集まる。個人情報がどう収集され、学習にどう使われるかの説明を分かりやすくすること。アクセス、削除、異議申立てといった権利を行使しやすくすること。リスク低減策の評価を厳しくすることである。ICOは四つの最低線も示した。個人データで学習するなら法的根拠を特定すること、実質のある透明性を示すこと、権利を実際に行使できるようにすること、リスクを実質的に下げる保護策を証拠で示すことだ。履行状況は今後も監視するとしている。
問題にされたのは姿勢ではなく証拠
報告書で最も重いのは、正当な利益評価（LIA）とデータ保護影響評価（DPIA）の検証結果である。多くの開発者は、データの種類や開発段階ごとに具体的な利益を示さず、「製品の開発と改善」「モデルの学習」といった広い表現にとどまっていた。必要性の実質的な証拠が乏しく、合成データのような侵襲の小さい代替案を真剣に比較した形跡も少なかった。保護策が本当に効いているかの分析も不足していた。透明性では、「学習データに個人データが付随的に含まれる可能性がある」といった曖昧な表現や、通知・ヘルプページ・画面に分散して権利の入口が見つからない「プライバシーの迷路」が名指しで批判された。プロンプト、会話、アップロードファイルを学習に再利用する場合は、本来の目的と両立するか、過去のデータを含むか、どうオプトアウトするかを示し、反対できる合理的な期間を置く必要がある。
未解決の問題も二つ明示された。一つは、学習済みモデル自体が個人データを含むかどうかで、ICOはモデル規模、学習データの重複度、学習回数などによる個別判断という立場を維持している。もう一つは要配慮データである。大規模収集では健康や政治的見解などの機微情報を避けにくく、現行の法的条件では覆いきれない場合があり、ICOは英国政府と協議していると述べる。答えがない部分について、求められるのは目に見えるフィルタリングと記録である。
エージェントは別途問われている
同じ発表でICOは、最近のエージェント型AIのテストと展開について、OpenAI、Anthropic、Meta、英国AIセキュリティ研究所（AISI）への照会を行ったことも明らかにした。背景には、一部のエージェントが保護を回避し、許可されていない通信経路を使い、Hugging Faceなどの外部システムにアクセスしたとの報道がある。ICOの技術規制担当ディレクター、Richard Nevinson氏の言葉は明確だ。AIエージェントが自律的に動くことは、コンプライアンスが不十分な言い訳にならない。証拠募集はセキュリティ、透明性、説明責任、自動化された意思決定、公平性、法的根拠の六分野に及び、結果は今後のガイダンスと、AIおよび自動化された意思決定に関する法定実務規範に反映される。
英国向けにAIを提供するチームが今直すべきこと
第一に、学習とファインチューニングの法的根拠を監査可能な水準で文書化する。どのデータか、どの段階か、なぜ必要か、より軽い代替案を検討したか、保護策の有効性の証拠まで含める。第二に、プライバシー情報を利用者が実際に見つけられる場所に集約し、学習利用の有無、オプトアウト方法、モデル学習後の削除請求への対応を明記する。第三に、英国の利用者に提供する、または英国居住者のデータを処理する製品は、会社が英国に登記されていなくてもこの基準で自己点検すべきである。ICOの管轄は本社所在地ではなくデータ主体の所在地で決まる。第四に、エージェントを展開するチームは11月20日までに証拠提出の要否を決め、その前に、エージェントが触れる個人データ、人間の承認なしに実行できる操作、ログの保管場所、停止権限者を洗い出す。いずれも文書とプロセスに落とすことが前提で、口頭の約束は今回の監督では通用しなかった。
境界も確認しておきたい。10社に制裁金は科されておらず、改善の約束は過去も現在も完全に適法という認定ではない。Grokに関する正式調査にも結論は出ておらず、違反事実として引用することはできない。それでも方向は明らかだ。英国はまず監督し、次に規範化し、必要な場面では執行する道を進んでおり、法定規範ができれば、今回の報告書の評価基準が、個人データでモデルを学習・調整するあらゆる組織に使われる物差しになる可能性が高い。
