"인공지능 생성 합성 콘텐츠 식별 조치"는 중국 사이버공간관리국, 산업정보기술부, 공안부, 국가 라디오 텔레비전 총국이 공동으로 발표하며 2025년 9월 1일부터 시행됩니다. 이 조치는 모든 AI 생성 합성 콘텐츠(텍스트, 사진, 오디오, 비디오, 가상 장면 등)가 대중의 알 권리를 보호하고 네트워크 정보 보안을 유지하며 콘텐츠 추적성 및 감독을 지원하기 위해 명시적 및 암묵적 식별을 모두 가져야 한다고 명확하게 규정하고 있습니다.
1. 적용범위 및 법적 근거
- 적용범위 : 인공지능 생성 합성 콘텐츠 서비스를 제공하는 모든 플랫폼, 기업 및 관련 사용자.
- 법적 근거: 사이버보안법, 심층합성 관리에 관한 조항, 생성인공지능 서비스 관리를 위한 임시 조치 및 기타 관련 규정.
2. 명시적 식별 필수
- 텍스트: 인터페이스의 시작, 끝 또는 눈에 잘 띄는 위치에 "AI 생성"과 같은 프롬프트를 표시합니다.
- 이미지 및 동영상: 콘텐츠에 눈에 보이는 식별 정보를 삽입하고 동영상의 시작, 중간 또는 끝에서 상기시킵니다.
- 오디오: 음성 안내로 강조 표시되거나 재생 인터페이스에서 눈에 띄게 강조 표시됩니다.
- 가상 장면: 입력 또는 사용 중 명백한 프롬프트.
- 다운로드하거나 내보낸 콘텐츠는 명시적으로 식별되어야 하며 제거해서는 안 됩니다.
3. 암시적 식별을 위해서는
- 생성 속성, 서비스 공급자 정보 및 콘텐츠 번호와 같은 정보가 파일 메타데이터에 기록되어야 합니다.
- 디지털 워터마크와 같은 변조 방지 기술의 사용을 권장합니다.
4. 플랫폼 책임
:- 커뮤니케이션 플랫폼은 암묵적 식별이 포함된 콘텐츠를 눈에 띄게 상기시켜야 합니다.
- AI가 생성했거나 AI가 생성한 것으로 의심되는 콘텐츠에 대해서도 프롬프트를 제공해야 합니다.
- 사용자 주장을 제공하고 콘텐츠 배포 요소를 문서화해야 합니다.
- 애플리케이션 배포 플랫폼은 검토 및 등록 시 AI 합성 콘텐츠 서비스를 제공하는지 확인하고 로고 구현을 확인해야 합니다.
5. 사용자의 책임 및 금지 행위
- 사용자가 노골적인 표시를 제거해야 하는 경우 계약서에 서명하고 최소 6개월 동안 운영 기록을 보관해야 합니다.
- 명시적 및 묵시적 로고를 위조, 변조, 삭제 또는 은폐하는 것은 금지되어 있습니다.
- 다른 사람이 신분증을 제거할 수 있는 도구나 서비스를 제공하는 것은 금지되어 있습니다.
6. 구현 및 지원 표준
- 및 조치는 국가 표준 "네트워크 보안 기술 인공 지능 생성 합성 콘텐츠 식별 방법"과 동시에 구현됩니다.
- 플랫폼과 기업이 이를 구현하는 데 도움이 되는 지원 지침과 코딩 규칙도 구현될 것입니다.
자주 묻는 질문Q
: 명시적 식별과 암시적 식별의 차이점은 무엇입니까?
A: 명시적 식별은 사용자가 직접 볼 수 있는 프롬프트인 반면, 암시적 식별은 파일 메타데이터 또는 디지털 워터마크에 포함된 정보입니다.
Q: 채점 요구 사항을 위반하면 어떻게 됩니까?
A: 관련 부서는 법에 따라 법적 책임을 조사할 것이며, 상황이 심각한 경우 행정 처벌 또는 형사 책임을 질 수 있습니다.
Q: 플랫폼 전환을 완료하는 데 얼마나 걸립니까?
A: 이 조치는 2025년 9월 1일부터 시행되며, 플랫폼은 그 전에 시스템 및 프로세스 전환을 완료해야 합니다.
