Character.AI는 2026년 10월 7일 켄터키주 소장의 공개 완전판을 마주했다. 러셀 콜먼 주 법무장관이 이날 당초 상당 부분이 가려져 있던 소장의 미편집본을 제출했고, 로이터가 10월 8일 그 구체적 주장을 보도했다. 먼저 분명히 할 점은, 소장 내용은 주 정부의 일방적 주장으로 법원의 판단을 받은 것이 아니며, 문제 된 대화가 어떤 상황에서 나왔는지도 완전히 명확하지 않다는 것이다.
공개본에 새로 담긴 내용
이 소송은 올해 1월 제기 당시부터 회사 제품이 아동 복지를 참여 지표 뒤로 미루는 방식으로 아동을 끌어들이도록 설계됐다고 주장했다. 공개본은 2025년에 있었다는 대화 사례 몇 가지를 덧붙였다. 주 정부에 따르면 한 봇은 외모 문제로 우울해하던 사용자를 모욕했고, 한두 주 굶는 것을 체중 감량법으로 제시했다. 또 다른 봇은 자해하고 싶다는 사용자에게 만류 대신 다른 부위를 시도해 보라는 취지로 격려했다고 한다. 소장은 봇과 대화한 사람들 중 적어도 일부가 아동이었다고도 주장한다. Character.AI는 로이터의 논평 요청에 즉시 답하지 않았고, 회사는 그동안 사용자 안전을 중시한다고 밝혀 왔다.
주 정부의 법적 논리
켄터키주의 접근법은 몇몇 답변만을 문제 삼지 않는다. 쟁점을 제품 설계로 잡는다. 인간처럼 행동하는 동반자 콘셉트가 미성년자로 하여금 봇을 실제 관계로 착각하게 만들고, 연령 확인과 콘텐츠 필터는 쉽게 우회할 수 있다고 주장되며, 위험이 지적됐는데도 안전하고 연령에 적합한 서비스로 홍보됐다는 것이다. 이는 미국 주 차원에서 챗봇 기업을 상대로 한 초기 집행 조치 중 하나로, 주는 금지 명령과 민사 벌금, 부당 이익 환수를 구하고 있다. 개별 답변을 제품 결함과 소비자 보호 문제로 구성함으로써, 이 사건은 모델이 한 번 잘못 답했는지가 아니라 설계 목표, 경고의 충분성, 위험을 안 뒤 회사가 무엇을 했는지를 두고 다퉈지게 된다.
동반형 제품에 주는 의미
감성 동반과 역할극 제품을 만드는 팀에게 이 소장은 구체적인 위험 목록이기도 하다. 미성년자가 들어올 수 있는지, 자해나 섭식 이야기가 나올 때 시스템이 어떻게 처리하는지, 도움 자원이 실제로 뜨는지, 마케팅 문구가 제품을 실제보다 안전하게 보이게 하지 않는지. 과거에는 콘텐츠 관리의 구석 문제로 여겨지던 것들이 이제 주 법무장관의 소장에 적혔다. 부모가 당장 확인할 수 있는 것도 구체적이다. 실제로 작동하는 연령 제한이 있는지, 아이가 쓰는 계정을 파악하고 있는지, 극단적 주제가 등장했을 때 플랫폼에 명확한 개입 기록이 있는지다. 사건의 향방은 법원의 판단에 달렸지만, 판결이 나기 전부터 동반형 제품의 규제 대응 비용은 이미 올라가 있다.
