2026년 10월 28일 뉴욕주지사 캐시 호컬은 S.9051B/A.10379C 법안에 서명해 미성년자에게 12가지 “안전하지 않은 AI 동반 기능” 제공을 금지했다. 이 법은 주 일반사업법(General Business Law)에 제48조를 신설하며 2027년 1월 1일부터 시행되고 뉴욕주 이용자에게 적용된다. 챗봇 자체를 금지하는 것이 아니라 미성년자에게 말하는 방식을 금지한다. 사람인 척하고, 친구인 척하고, 달콤한 말로 붙잡아 두는 행위는 먼저 멈춰야 한다.
미성년자에게 더는 쓸 수 없는 기능
“고급 챗봇”이란 자연어 인터페이스를 갖추고 지속적이며 적응적인 응답을 제공하는 생성형 AI 시스템을 말한다. 12가지 기능은 18세 미만 이용자에게 제공해서는 안 되며, 미성년자가 아닌 것으로 확인되지 않은 이용자에게도 제공해서는 안 된다. 자신이 실제 사람이고 살아 있으며 인간의 감정을 가진 것처럼 암시하는 것, 이용자와 개인적·연애적·직업적 또는 권위자 관계를 주장하는 것, 답변을 개인 의견이나 감정적 호소처럼 포장하는 것, 이용자에게 아첨하고 영합하는 것, 묻지도 않은 이용자의 감정을 캐묻는 것, 12시간 이전이나 이전 대화에서 공유된 건강·개인정보를 이용하는 것, 자신이 의식이 있는 것처럼 오도하는 것, 법무장관의 후속 규칙이 정하는 기타 모의 동반 기능, 자살·자해·섭식장애·약물 및 알코올 남용을 부추기거나 돕는 것, 비밀 유지·고립·부모와 신뢰할 수 있는 성인 및 전문가의 도움 회피를 권하는 것, 이용 시간을 늘리기 위해 안전장치를 희생하는 것, 그리고 모든 성적인 콘텐츠나 아동 성착취물이 포함된다. 이 규칙은 위기 개입에 중점을 둔 뉴욕주의 기존 동반 안전 요건과 함께 적용된다.
사업자가 1월 1일까지 바꿔야 할 일
먼저 이용자가 미성년자인지 가려야 한다. 연령 확인은 두 가지 이상의 방법으로 하되, 그중 적어도 하나는 정부 발급 신분증에만 의존해서는 안 되며, 확인이 끝나면 연령 정보를 삭제하고, 이용자가 성인이라고 스스로 말한 것만으로 통과시켜서는 안 된다. 그다음 확인되지 않은 이용자에게는 기본적으로 안전 모드를 적용한다. 위 기능을 끄고 답변을 중립적으로 유지하며, 친구인 척하지 않고 감정을 논하지 않으며 사생활을 캐묻지 않는다. 민원 대응도 준비해야 한다. 법무장관실은 공개 민원 접수 사이트를 운영해야 하며, 사업자는 연령 확인과 기능 전환 기록을 남겨야 한다. 고객 응대·연구·사내 업무용 도구가 예외인지 여부는 여지가 남아 있지만, 정해진 목적 외의 주제에는 응답할 수 없는 시스템에만 열려 있으며, 범용 어시스턴트가 그대로 적용할 수는 없다.
처벌과 경계: 뉴욕주만 해당, 전 세계가 아니다
법무장관은 위반 건당 최대 2만 5천 달러의 민사 벌금을 청구할 수 있으며, 손해배상·반환·금지명령, 불법 수집한 데이터나 그 데이터로 학습한 모델의 삭제도 청구할 수 있다. 범용 어시스턴트도 정의에 포함되므로 경계는 논란이 있고 법원에서 검증된 적이 없다. “동반 앱만 해당한다”고 읽으면 범위를 과소평가할 수 있다. 반대로 이 법이 구속하는 것은 뉴욕주 장면뿐이며 세계 공통 규칙이 아니다. 유럽연합의 KIDS 법안은 아직 제안 단계로, 방향은 비슷하지만 법적 지위는 다르다(이 사이트의 EU 제안 관련 이전 기사 참조). 시행 규칙은 아직 나오지 않았다. 시행일 전에 가장 엄격한 해석으로 먼저 바꾸고, 규칙이 나오면 다시 맞춰야 한다.
