9월 21일 캐나다 브리티시컬럼비아주는 샌프란시스코 연방법원에 OpenAI와 그 CEO 샘 올트먼을 제소했다. 올해 2월 텀블러리지 학교 총격 사건 전에 ChatGPT를 통해 폭력이 계획되고 있다는 징후를 경찰에 알리지 않았다는 주장이다. AI 안전 책임을 주 정부가 법정에 가져온 것은 이번이 처음이다.
소장이 주장하는 내용
소장의 핵심 주장은 이렇다. OpenAI 내부 안전팀은 2025년 6월 일찍이 관련자의 ChatGPT 계정에 플래그를 세웠고, 총기 폭력과 관련된 대화를 확인했으며, 법 집행기관에 연락할 것을 권고했다. 그러나 회사는 이를 실행하지 않았다. 니키 샤르마 주 법무장관은 성명에서 "텀블러리지 주민들은 답과 책임을 받을 자격이 있다"고 밝혔다.
주는 정신건강 서비스와 피습 학교 재건을 포함한 사건 수습 비용에 대한 손해배상을 청구하는 한편, 심각한 폭력을 시사할 수 있는 ChatGPT 대화를 다루는 방식을 바꾸도록 OpenAI에 명령하는 법원 명령을 구하고 있다. 소장은 또한 올트먼이 지역 커뮤니티에 사과하며 경찰에 알리지 않았음을 인정했지만, 약속한 개혁은 실행되지 않았다고 주장한다. 주는 7월에 이미 법적 조치를 검토 중이라고 밝혔고, 9월 21일 정식으로 제소했다.
OpenAI의 반응
OpenAI 대변인은 텀블러리지 총격 사건을 "말로 표현할 수 없는 비극"이라 부르며, 회사는 "정부 및 법 집행기관과의 협력을 지속하고 안전 작업을 계속 발전시키는 데 전념하고 있다"고 밝혔다. 회사의 지금까지 입장은 당시 내부 평가에서는 법 집행기관 통보 기준을 충족하는 "신뢰할 수 있고 임박한 계획"이 확인되지 않았다는 것이다. 다만 업데이트된 절차에 따르면 이런 종류의 사안은 현재 보고된다고 덧붙였다.
주목할 배경이 있다. 이번이 첫 소송이 아니라는 점이다. 이미 30명이 넘는 유족이 캘리포니아 연방법원에 OpenAI를 제소해 총격을 막을 기회를 놓쳤다고 비난했다. 정부가 나서기 전부터 개별 책임 추궁은 진행 중이었다.
이 소송의 무게가 다른 이유
개인의 소송이 개별 사건의 책임을 묻는다면, 주 정부가 나서면 문제는 제도 차원의 질문이 된다. AI 기업의 내부 안전 프로세스가 이미 적색 신호를 켰는데도 법 집행기관에 경고할 법적 의무가 있는가? 그 기준을 정하는 것은 기업 자신인가, 규제 당국인가?
이 사건은 한층 까다로운 트레이드오프에도 닿아 있다. 사용자 대화의 프라이버시와 공공 안전을 위한 경고 필요성이다. OpenAI는 매일 엄청난 양의 대화를 처리하며, 안전팀의 플래그 지정, 에스컬레이션, 통보에는 명확한 규칙이 필요하다. 규칙이 너무 느슨하면 놓친 신호의 대가는 생명이 될 수 있고, 너무 엄격하면 오보가 사용자 신뢰를 갉아먹고 막대한 운영 부담을 낳는다. AI 맥락에서 이 저울을 법정이 다는 것은 이번이 처음이다.
이 사건이 의미하는 것
결과가 어떻든 이 소송은 업계 전체에 새로운 책임의 선을 긋는다. 내부 안전 검토 기록이 법정의 증거가 되고 있다. AI 기업은 더 이상 "내부에서 확인했다"를 종점으로 삼을 수 없다. 확인한 뒤에 무엇을 했는지, 무엇을 하지 않았고 왜 하지 않았는지가 하나하나 심사될 것이다.
실무자에게 직접적인 교훈은 이렇다. 폭력이나 자해 같은 고위험 콘텐츠의 내부 처리 절차에는 감사 가능하고 설명 가능한 통보 기준이 필요하며, 그것은 내부 매뉴얼이 아니라 대외 공개된 안전 정책에 적혀 있어야 한다. 규제 당국에게 이 소송은 여러 나라에서 "AI 기업의 경고 의무"를 둘러싼 입법 논의를 가속할 수 있다. 안전에 대한 투자는 처음으로 비용 항목에서 법률 리스크 항목으로 바뀌고 있다.
