2026년 12월 2일, EU 인공지능법(AI법)에 두 가지 새로운 금지 규정이 시행됩니다. 동의 없는 사적 이미지와 아동 성착취물을 생성하는 AI 시스템은 EU 역내에서 판매, 서비스 투입, 사용이 금지됩니다. 같은 날, 2026년 8월 2일 이전에 시장에 출시된 생성형 AI 시스템에 대한 기계 판독 가능 콘텐츠 표시의 유예 기간도 종료됩니다. 두 변화 모두 올해 7월 발효된 디지털 옴니버스(AI 분야)(규정 (EU) 2026/1744호)에 규정돼 있으며, 적용 범위는 EU 역내에 한정됩니다.
12월 2일에 정확히 무엇이 금지되나
첫 번째 금지는 식별 가능한 자연인의 사적 부위나 성행위를 담은 실감 나는 이미지, 영상, 음성 등을 생성하거나 조작하는 AI 시스템을 대상으로 하며, 당사자의 자유롭고 구체적이며 충분한 설명에 기반한 명확한 동의가 없는 경우에 적용됩니다. 두 번째는 아동 성착취물을 생성하거나 조작하는 시스템으로, EU 지침 2011/93/EU의 정의에 따르며, 각 회원국 법률상 '권리 없는' 항변이 인정되는 경우는 제외됩니다. 다만 금지가 무조건적인 것은 아닙니다. 제5조 제1a항은 제공자에 대해 두 가지 경우에만 금지된다고 규정합니다. 즉, 해당 콘텐츠 생성이 시스템의 의도된 용도인 경우, 또는 시스템의 설계, 학습, 구조, 기능상 해당 생성이 합리적으로 예측 가능하고 재현 가능한 결과인데도 이를 확실히 방지하고 발견·신고된 오용을 시정할 합리적이고 충분한 기술적 안전조치가 없는 경우입니다. 배포자(사용자)에 대해서는 해당 콘텐츠를 생성할 목적으로 시스템을 사용할 때만 금지됩니다. 이미지를 조작했더라도 사적 부위의 노출이 늘어나지 않고 성행위의 성격도 바뀌지 않았다면, 조항상 '조작'에 해당하지 않습니다.
12월 2일 전에 기업이 점검할 것
먼저 EU 역내에서 판매하거나 사용하는 생성형 시스템을 전수 조사하십시오. 사적 이미지나 얼굴 교체 누드 생성을 앞세우는 기능은 없는지, 프롬프트 필터링과 출력 탐지로 그런 요청을 차단할 수 있는지, 신고 접수 후 시정 절차가 있는지 확인합니다. 범용 대형 모델 자체는 금지 대상이 아니지만, '원클릭 탈의'를 간판 기능으로 내세우는 제품이나, 대량 생성에 쓰이는 것을 알면서도 대책을 세우지 않는 제품은 제1a항의 두 번째 경우에 해당합니다. 같은 날 만료되는 제50조 제2항도 잊어서는 안 됩니다. 2026년 8월 2일 이전에 시장에 출시된 생성형 시스템은 12월 2일까지 기계 판독 가능한 표시를 갖춰야 하며, ChatGPT 텍스트 워터마크 도입 사례를 참고할 수 있습니다. 공급업체의 답변은 문서로 남기십시오. 구두 약속은 컴플라이언스 기록이 되지 않습니다.
금지 위반은 법에서 가장 무거운 처벌 단계에 속하며, 3,500만 유로 또는 전 세계 연간 매출의 7% 중 더 높은 금액이 부과될 수 있습니다. 제50조 투명성 의무 위반은 별도 단계로, 최대 1,500만 유로 또는 3%입니다. 12월 2일을 법 전면 시행일로 오해해서도 안 됩니다. 고위험 시스템 의무는 2027년 12월 2일(부속서 III 용도)과 2028년 8월 2일(규제 대상 제품에 내장된 AI)로 연기된 상태이며, 이번에 시행되는 것은 신규 금지와 표시 유예 종료뿐입니다. 적용 범위도 분명합니다. EU 역외에서 판매되고 EU 역내에서 사용되지 않는 시스템은 두 규정 모두 적용받지 않으며, 미국과 중국에는 현재 동등한 금지 규정이 없습니다. EU 규칙을 전 세계 공통 규칙인 양 말하는 것은 틀린 것입니다.
