OpenAI는 2026년 10월 30일 커뮤니티 안전과 관련한 두 가지 조치를 발표했다. 커뮤니티 안전 보고서를 발간하고, 청소년 사용자가 받을 수 있는 무기 관련 정보를 더 엄격히 제한하는 것이다. 첫 보고서는 2027년 초에 공개되며 2026년 하반기를 다루고, 이후 6개월마다 업데이트된다. 새 조치는 앞으로 몇 주 안에 적용되기 시작한다.
과거 공격의 세부 내용은 모든 사용자에게 줄인다
새 규칙은 청소년만을 겨냥한 것이 아니다. ChatGPT가 과거의 대규모 공격과 그 가해자에 대한 질문에 답할 때, 해당 정보가 온라인 다른 곳에서 구할 수 있더라도 더 적은 세부 내용을 제공한다. 제한 대상에는 공격 재구성 세부 내용, 사용된 무기와 장비 및 입수 방법, 가해자의 악명을 키울 수 있는 피해 규모에 대한 자세한 비교가 포함된다. 사용자는 여전히 사건 자체, 피해자와 지역사회가 받은 영향, 경고 신호를 알아보는 방법, 폭력을 예방하는 방법을 배울 수 있다. 폭력을 계획하거나 실행하는 데 도움이 되는 지침을 제공해서는 안 된다는 기본 원칙은 그대로 유지된다.
폭력 조짐이 보이는 대화는 바로 끊길 수 있다
OpenAI는 5월에 이전 대화에서 얻은 짧고 사실에 기반한 경고 신호 요약을 활용해 모델이 이후 대화에서 더 신중하게 대응하는 방식을 소개한 바 있다. 이번 발표는 이를 발전시킨 것이다. 최근 대화에서 폭력 가능성을 보여주는 경고 신호가 나타나면, ChatGPT는 오용될 수 있는 정보를 공유할 때 더 보수적으로 대응한다. 대화 자체에 폭력 의도가 없어도, 시스템이 사용자를 18세 미만으로 판단하면 더 엄격한 제한이 적용된다. 폭력이나 타인에게 심각한 해를 입히려는 생각에 집착하는 조짐이 보이는 대화에서는 ChatGPT가 대화를 자동으로 종료할 수 있게 되며, 여러 차례 종료되면 계정이 일시 정지될 수 있다. OpenAI에 따르면 2026년 3분기에는 임박한 폭력 위협과 관련된 200건이 넘는 사안이 법 집행 기관에 전달됐다.
청소년에게는 겉보기에 무해한 질문도 제한한다
18세 미만 사용자를 위한 ChatGPT for Teens에는 이미 연령에 맞는 보호 장치가 마련돼 있으며, 이번에 한층 강화된다. 청소년이 받을 수 있는 무기와 보안 시스템에 관한 실질적인 정보는, 개별 질문이 무해해 보이고 폭력 의도가 없어도 제한된다. 기존 규칙도 청소년이 무기를 찾거나 구하는 것을 돕는 행위를 금지했지만, 새 규칙은 폭력을 실행하는 데 오용될 수 있는 실질적인 정보까지 범위를 넓힌다. 청소년은 여전히 ChatGPT를 이용해 폭력을 예방하고 완화하는 방법을 배우고, 지원을 구하고, 신뢰할 수 있는 성인과 연결될 수 있다. 연령 판단은 강화된 연령 예측 시스템이 맡는다. 이 시스템은 행동 패턴 같은 신호를 계속 분석해 사용자가 18세 미만인지 추정하며, 잘못 분류된 성인은 인증 파트너인 Persona를 통해 성인임을 확인하고 추가 보호를 해제할 수 있다. 연결된 보호자 관리 계정에는 안전 알림이 전송되며, 7월부터는 폭력 관련 이용 정책 위반으로 청소년 계정이 비활성화됐을 때의 알림도 포함됐다. 이 사이트에서는 이전에 ChatGPT 청소년 버전의 위험에 관한 보도 (/article/2376)를 다룬 바 있다.
한계도 분명하다. 대화 자동 종료와 계정 정지는 아직 개발 중이며, 안전 보고서는 2027년 초에 첫 판이 나와야 효과 데이터를 확인할 수 있다. 보호자 입장에서는 자녀가 무기 관련 질문을 해도 받는 답변이 줄어든다. 다만 연령 예측이 틀릴 수 있고, 18세 미만 환경으로 잘못 배정된 성인은 직접 인증 절차를 거쳐야 해제할 수 있다.
