ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
OpenAI, CSAM 탐지 도구 무료 개방: ChatGPT에서 위반 검색 한 번이면 24시간 정지

OpenAI, CSAM 탐지 도구 무료 개방: ChatGPT에서 위반 검색 한 번이면 24시간 정지

AI 정보 • Admin • • 29 회 조회

2026년 11월 17일, OpenAI는 공식 웹사이트에서 일련의 아동 안전 조치를 발표했다. AI 생성물을 포함한 CSAM을 탐지할 수 있는 이미지 분류기를 무료로 개방하는 한편, ChatGPT에 새로운 개입 경고를 도입했다. 아동 성 착취 콘텐츠를 찾으려는 사용자는 그 자리에서 차단되고 24시간 동안 접근이 정지된다.

무료 분류기: 플래그 절반으로, 탐지량은 거의 그대로

이 분류기는 OpenAI와 미국 실종·학대아동센터(NCMEC)가 협력해 개발했으며, 해시 대조로는 놓치는 신규 이미지를 찾아내고 심사자가 무엇을 먼저 볼지 판단하도록 점수를 제공한다. 내부 평가에서는 기존 도구보다 48% 적은 이미지에 플래그를 달면서도 탐지량은 거의 같았고, 플래그가 달린 이미지가 위반 콘텐츠를 포함할 확률은 약 두 배였다. 초기 파트너 실측에서는 fal의 사람이 검토한 테스트에서 고신뢰 플래그의 72%가 신규 CSAM으로 확인됐고, SafetyKit은 아동을 성적 대상화한 그림·애니메이션 장면에서 90%의 탐지율을 기록했다. 분류기는 심사를 통과한 기관에 API로 무료 제공되며 팀 규모는 묻지 않는다.

ChatGPT 안에 그 자리에서 막는 경고 추가

새 경고는 AI 생성물을 포함해 아동을 성적 대상화하는 행위의 해로움을 설명하고, 해당 대화를 삭제한 뒤 24시간 접근을 정지한다. 반복 위반 시 제한 연장, 계정 폐쇄, 당국 신고로 이어질 수 있다. OpenAI는 개발자용 CSAM 거버넌스 가이드도 공개했고, 법 집행 기관에 조사 도구와 교육을 제공한다. 역할 분담은 분명하다. 탐지는 기관에, 개입은 제품 안에, 조사 지원은 법 집행 기관에.

자체 도구를 만들 인력이 부족한 중소 안전팀에게는 같은 수준의 탐지 능력을 무료로 쓸 수 있다는 것이 실질적인 희소식이다. 다만 분류기는 점수만 제공할 뿐 최종 판단은 사람의 검토에 달려 있고, 무료 개방 대상은 심사를 통과한 기관이지 공개 API가 아니다. 일반 사용자에게 가장 눈에 띄는 변화는 ChatGPT 안에 있다. 관련 검색은 사후 처리가 아니라 그 자리에서 중단된다. 같은 안전 노선의 또 다른 움직임으로, OpenAI는 외부 기관을 연구소에 직접 들여 평가하게 하고 있다: OpenAI, 외부 평가 기관 4곳 초청: 연구소에 직접 들어가 모델 정렬 검증.

추천 도구

더보기