영국 ICO는 개인 데이터가 대형 모델 학습에 들어가는 조건에 대해 지금까지 가장 구체적인 입장을 내놓았다. 2026년 10월 8일 영국 정보위원회(ICO)는 감독 보고서 Building trust and transparency into generative AI development를 발표하고 Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI, Stability AI 등 기초 모델 개발사 10곳이 데이터 보호 관행을 변경했거나 변경을 약속했다고 밝혔다. 같은 날 에이전트형 AI의 데이터 보호 위험에 대한 6주간의 의견 수렴도 시작됐으며 마감은 2026년 11월 20일이다. 이 요구는 영국 데이터 보호법에 근거하고 영국 내 정보 주체에만 적용된다. EU나 미국의 판단이 아니며 다른 법역에 그대로 옮겨 쓸 수 없다.
왜 11곳이 아니라 10곳인가
2025년 시작된 ICO 감독 프로그램은 원래 개발사 11곳을 대상으로 했다. 열한 번째인 xAI는 변경 약속 명단에 없다. ICO는 xAI와의 통상적인 협의를 중단하고, Grok 시스템의 개인 데이터 처리와 유해한 성적 이미지·영상 콘텐츠 생성 가능성에 대해 X Internet Unlimited Company와 X.AI LLC에 대한 정식 조사를 시작했다. 협력적 감독과 정식 조사는 분명히 구분된다. 나머지 10곳은 약속한 대로 개선하고 이행 상황을 점검받는 쪽이고, xAI는 집행 결론으로 이어질 수 있는 절차에 놓여 있다.
10곳의 약속은 세 방향에 모인다. 개인 정보가 어떻게 수집되고 학습에 쓰이는지 더 분명히 설명하는 것, 열람·삭제·반대 같은 권리를 더 쉽게 행사하게 하는 것, 위험 완화 장치에 대한 평가를 더 엄격히 하는 것이다. ICO는 네 가지 기준선도 제시했다. 개인 데이터로 학습하려면 법적 근거를 특정해야 하고, 실질적인 투명성을 제공해야 하며, 권리가 실제로 행사 가능해야 하고, 위험을 실질적으로 줄이는 보호 장치가 있음을 보여야 한다. 이행 여부는 계속 점검하겠다고 밝혔다.
문제 삼은 것은 태도가 아니라 증거였다
보고서에서 가장 무게 있는 부분은 적법한 이익 평가(LIA)와 데이터 보호 영향 평가(DPIA)를 검토한 결과다. 상당수 개발자는 데이터 유형과 개발 단계별로 구체적인 이익을 적지 않고 제품 개발 및 개선, 모델 학습 같은 넓은 표현에 머물렀다. 필요성에 대한 실질적 증거가 부족했고, 합성 데이터처럼 침해가 적은 대안을 진지하게 비교한 흔적도 드물었다. 보호 장치가 실제로 효과가 있는지에 대한 분석도 거의 없었다. 투명성에서는 학습 데이터에 개인 데이터가 우연히 포함될 수 있다는 식의 모호한 문구와, 안내문·도움말·화면에 흩어져 권리 행사 입구를 찾기 어려운 프라이버시 미로가 지목됐다. 이용자의 프롬프트, 대화, 업로드 파일을 학습에 재사용한다면 원래 목적과의 양립 가능성, 과거 데이터 포함 여부, 거부 방법을 밝히고, 반대할 수 있는 합리적인 기간을 둬야 한다.
해결되지 않은 문제도 두 가지 공개됐다. 첫째, 학습된 모델 자체가 개인 데이터를 포함하는지는 모델 규모, 학습 데이터의 중복 정도, 학습 횟수 등을 따져 건별로 판단한다는 것이 ICO의 입장이다. 둘째, 민감 정보 범주다. 대규모 수집에서는 건강이나 정치적 견해 같은 민감 정보를 피하기 어렵고, 현행 법적 요건으로 모두 포괄하지 못할 수 있어 ICO는 영국 정부와 이 문제를 논의 중이라고 밝혔다. 답이 없는 영역에서는 눈에 보이는 필터링과 기록이 요구된다.
에이전트는 따로 질문을 받고 있다
같은 발표에서 ICO는 최근 에이전트형 AI의 시험과 배포와 관련해 OpenAI, Anthropic, Meta, 영국 AI 보안 연구소(AISI)에 질의를 했다고 확인했다. 일부 에이전트가 보호 장치를 우회하고, 승인되지 않은 통신 경로를 사용하며, Hugging Face 같은 외부 시스템에 접근했다는 보도가 배경이다. ICO 기술 규제 책임자 Richard Nevinson의 말은 분명하다. AI 에이전트가 자율적으로 행동한다는 사실은 부실한 준법의 변명이 되지 않는다. 의견 수렴은 보안, 투명성, 책임성, 자동화된 의사결정, 공정성, 법적 근거 여섯 분야를 다루며, 결과는 향후 지침과 AI 및 자동화된 의사결정에 관한 법정 실무 규범에 반영된다.
영국 이용자에게 AI를 제공하는 팀이 지금 손볼 것
첫째, 학습과 미세조정 데이터의 법적 근거를 감사 가능한 수준으로 문서화한다. 어떤 데이터인지, 어느 단계인지, 왜 필요한지, 더 가벼운 대안을 검토했는지, 보호 장치의 효과 증거까지 포함한다. 둘째, 프라이버시 안내를 이용자가 실제로 찾을 수 있는 곳에 모으고, 학습 이용 여부, 거부 방법, 모델 학습이 끝난 뒤 삭제 요청을 어떻게 처리하는지 명시한다. 셋째, 영국 이용자에게 제공하거나 영국 거주자의 데이터를 처리하는 제품은 회사가 영국에 등록돼 있지 않아도 이 기준으로 자체 점검해야 한다. ICO의 관할은 본사 소재지가 아니라 정보 주체가 있는 곳으로 정해진다. 넷째, 에이전트를 배포하는 팀은 11월 20일 전에 의견 제출 여부를 정하고, 그 전에 에이전트가 접근할 수 있는 개인 데이터, 사람 승인 없이 실행할 수 있는 동작, 로그 보관 위치, 중단 권한자를 파악한다. 어느 항목이든 문서와 절차로 남아야 하며, 말로 한 약속은 이번 감독에서 통하지 않았다.
경계도 분명히 해야 한다. 10곳에 과징금이 부과된 것은 아니며, 개선 약속은 과거와 현재 모두 완전히 적법하다는 인정이 아니다. Grok에 대한 정식 조사도 아직 결론이 없어 위반 사실로 인용할 수 없다. 그래도 방향은 분명하다. 영국은 먼저 감독하고, 다음에 규범으로 만들고, 필요한 경우 집행하는 길을 가고 있으며, 법정 규범이 나오면 이번 보고서의 평가 기준이 개인 데이터로 모델을 학습하거나 미세조정하는 모든 조직에 적용되는 잣대가 될 가능성이 크다.
