2026년 9월 26일 Claude와의 대화가 미국 플로리다주 리 카운티 경찰이 30세 여성을 체포하게 된 직접적인 단서가 됐다. 리 카운티 보안관실의 체포 보고서와 지역 매체 WINK News에 따르면 보니타스프링스 주민 칼리 미셸 헬러는 Anthropic의 챗봇 Claude와의 대화에서 지역 보안관실을 공격하겠다는 취지의 글을 남겼다. 이 내용은 Claude의 안전 시스템에 감지돼 인적 검토로 넘어갔고, 검토자가 신뢰할 수 있는 위협이라고 판단해 법 집행 기관에 신고했다. 경찰은 자택에서 헬러를 구금했고, 그녀는 수사관들에게 Claude를 일기처럼 써 왔다고 말했다. 그녀는 현재 서면 폭력 위협 혐의에 직면해 있지만, 사건은 아직 법원에서 심리되지 않았고 유죄가 확정된 것도 아니다.
자동 감지에서 경찰 신고까지, 그 사이에 일어난 일
경찰 설명에 따르면 Anthropic의 안전 장치는 키워드와 잠재적 위협을 모니터링하고 심각도에 따라 내용을 단계적으로 상향 보고한다. 이 사건의 결정적 고리는 알고리즘이 아니라 인적 검토 이후의 긴급 공개였다. Anthropic의 공개 정책에 따르면 회사는 보통 유효한 법적 절차를 거친 뒤에야 정부에 사용자 정보를 제공하지만, 임박한 신체적 상해나 사망으로 이어질 수 있는 긴급 상황이라고 판단하고 신속한 정보 제공이 위험을 막을 수 있다고 볼 때는 예외가 있다. 플로리다주 법전 836.10조는 타인이 볼 수 있는 서면 또는 전자 기록을 통해 살인, 상해, 총기 난사, 테러를 위협하는 행위를 2급 중범죄로 처벌할 수 있다고 규정한다. 이번 대화가 법적 구성 요건을 충족하는지는 검찰이 입증하고 법원이 판단할 몫이다.
일반 이용자가 기억해야 할 경계
이 사건은 또 다른 소송과 대조를 이룬다. 캐나다 브리티시컬럼비아주는 OpenAI를 상대로, 자사 안전팀이 총격범과 ChatGPT의 폭력적 대화를 감지하고도 경찰에 알리지 않았다며 소송을 제기했다. 한쪽에서는 신고해 이용자가 체포됐고, 다른 쪽에서는 신고하지 않아 사후에 소송을 당했다. 플랫폼은 어느 방향에서든 여론의 중심에 설 수 있다. 일반 이용자에게 결론은 구체적이다. 챗봇을 나만 보는 일기로 여기지 말 것. Claude나 ChatGPT에 쓴 내용은 안전 시스템에 감지되고, 인적 검토자가 읽을 수 있으며, 플랫폼이 긴급한 위험이 있다고 판단하면 법 집행 기관에 제공될 수 있다. 변호사와 의뢰인 사이의 비밀유지 특권 같은 보호도 없다. 같은 주에 Anthropic은 데이터가 국경을 넘지 않는다는 점을 내세운 Claude 인도 국내 추론도 출시했다. 데이터가 어디에 놓이는지, 누가 볼 수 있는지는 내용을 AI에 맡기기 전에 함께 따져야 할 두 가지 문제다.
