얼굴 정보는 공원 사진 기계 한 대 안에 1만 장 넘게 남아 있었고, 검찰이 움직인 뒤에야 삭제됐다. 2026년 10월 10일, 펑파이신문은 상하이시 황푸구 인민검찰원으로부터 AI 인터랙티브 촬영 장치가 얼굴 정보를 불법으로 처리한 공익 소송 사건이 최근 종결됐으며 행정과 민사 두 갈래가 함께 진행됐다는 사실을 전했다. 장치는 공원에 놓여 있었고, 방문객이 두 사람의 사진을 찍으면 딥 신세시스가 '미래의 아기'를 포함한 세 식구 합성 사진을 만들었으며, 위챗 미니프로그램으로 보고 내려받는 구조였다. 전 과정에서 법에 따른 고지는 없었고, 민감한 개인정보인 얼굴에 대한 별도 동의도 받지 않았다.
1만 장이 넘는 사진이 본인도 모르는 곳에 저장돼 있었다
황푸구 검찰원은 2026년 4월 단서를 발견한 뒤 먼저 주관 행정기관에 검찰 건의를 보냈고, 기업은 이후 안내 팝업과 AI 표시를 추가해 겉보기에는 고친 셈이 됐다. 그러나 저장 쪽 문제는 더 깊었다. 같은 해 5월, 상하이시 검찰원 기술센터의 증거 분석 보고서에 따르면 장치의 애플리케이션 폴더에서 촬영 사진 1만여 장이 추출됐고, 합성 이미지는 클라우드에도 업로드돼 저장되고 있었다. 장치 자체에는 다운로드 기능이 없어 오래 보관할 필요가 없었는데도, 사진에는 잘못 찍힌 컷과 시험 촬영, 심지어 배경 속 다른 방문객의 선명한 얼굴까지 섞여 있었다. 찍힌 사람들은 저장 사실을 알지 못했고 삭제권을 행사할 방법도 없었다. 보관 기간도 정해져 있지 않았다. 미니프로그램의 동의 절차도 문제였다. 이용약관과 개인정보 처리방침이 한 문서로 묶여 누가 처리하고 얼마나 보관하는지 분명히 밝히지 않았고, 영구 저장, 2차 이용, 무조건적 국외 이전 같은 조항까지 들어 있었으며 얼굴 처리에 대한 별도 팝업은 없었다.
적용 범위는 중국이며, 결론을 다른 지역에 그대로 옮길 수 없다
이 사건에 적용되는 것은 중국 대륙의 개인정보 보호 체계다. 얼굴은 민감한 개인정보이며, 처리하려면 별도 고지와 별도 동의, 최소 필요 원칙이 요구된다. 구속 대상은 중국 대륙에서 이런 서비스를 제공하는 운영자, 즉 AI 촬영 기계와 인터랙티브 장치, 딥 신세시스 미니프로그램을 운영하는 기업, 그리고 이런 장치를 들여놓는 공원, 관광지, 상업 시설이다. 관련 기업은 상하이를 비롯해 전국에 같은 종류의 사업을 다수 운영하고 있어, 시정은 기계 한 대의 철거가 아니라 동종 장치 전체에 미친다. EU와 미국은 얼굴 데이터 규칙의 표현과 구조가 달라, 이 사건의 결론을 해외 사업에 그대로 적용할 수 없고 그 반대도 마찬가지다.
운영자가 지금 당장 고쳐야 할 네 가지
- 별도 동의는 별도로 보여줄 것. 얼굴 처리에는 독립적인 고지와 독립적인 체크가 필요하며, 약관에 대한 포괄 동의 속에 섞어 넣어서는 안 된다.
- 생성이 끝나면 지울 것. 서비스 제공이 끝난 뒤 원본을 계속 보관할 필요가 없으면 저장하지 말고, 정말 보관이 필요하면 기간을 명시하고 지키며, 잘못 찍힌 사진과 배경 행인의 얼굴에는 별도의 삭제 장치를 마련해야 한다.
- 약관의 선 넘는 조항을 없앨 것. 영구 저장, 2차 이용, 무조건적 국외 이전은 최소 필요와 목적 제한에 정면으로 충돌한다. 써 두는 것 자체가 스스로에게 불리한 증거를 남기는 일이다.
- 표시와 권리 창구가 실제로 작동할 것. 딥 신세시스 콘텐츠에는 AI 표시를 붙이고, 삭제와 계정 탈퇴 기능이 실제로 쓸 수 있어야 한다. 이 사건의 협의 결과는 바로 이 세 가지였다. 불법 저장된 얼굴 정보를 로컬과 클라우드에서 삭제하고, 개인정보 처리방침을 고치고, 탈퇴 기능을 추가하는 것이었다.
표시 의무는 중국만의 것이 아니다. EU 역시 생성 콘텐츠 표시를 엄격히 요구하며, 당 사이트는 앞서 ChatGPT 텍스트 워터마크가 EU에서 강제되는데 API에서는 기본으로 꺼져 있는 차이를 설명한 바 있다.
진짜 위험은 아무도 소송하지 않아도 찾아온다는 것
이 사건은 방문객의 소송을 기다리지 않았다. 검찰이 직무 수행 중 단서를 발견해 2026년 4월 30일 민사 공익 소송으로 입건했고, 6월 2일 공고 절차를 거친 뒤 협의를 통해 종결했다. 다시 말해 얼굴 정보 처리의 위험은 이용자 불만의 유무에 달려 있지 않다. 쌓인 데이터 자체가 증거이며, 증거 분석 보고서가 그 수를 정확히 셈했다. 운영자에게는 출시 전에 고지와 동의, 삭제, 보관 기간을 제품 흐름 안에 넣는 비용이, 공익 소송 안에서 한 항목씩 시정하는 비용보다 훨씬 작다.
