뉴욕시의회 AI 법안은 규제의 도끼를 구체적인 조항까지 내렸다. 9 월 25 일, 《뉴욕포스트》 보도에 따르면 시의회는 AI 법안 패키지를 발의했다. AI 기업은 뉴욕시 5 개 자치구에서 AI 시스템을 마케팅·판매·배포하기 전에 제3 자 검증을 통과해야 한다. 즉 외부 전문가가 기업의 자체 안전 선언을 심사하는 것이다. 시내에서 사용되는 모든 AI 도구에는 이른바 '킬 스위치', 즉 인간이 언제든 시스템을 끌 수 있는 수동 오버라이드가 장착돼야 한다. 위반 1 건당 벌금 2 만 5000 달러다.
동반 법안: 미국 최초의 내부고발자 현금 보상
더 눈길을 끄는 건 또 다른 동반 법안이다. 미국 최초의 AI 내부고발자 현금 보상 제도——AI 기업의 위반 행위를 신고한 개인은 징수된 벌금에서 몫을 나눠 갖는다. 시의회는 10 월 5 일을 청문회 날짜로 정하고 메타 CEO 저커버그와 OpenAI CEO 올트먼의 출석을 요구했다.
도화선: 사직한 연구원과 '사실상 무규제'의 현실
발의의 직접적인 도화선 중 하나는 이달 초 Anthropic 연구원 제이콥 콕슨의 사직이다. 그는 이 기술이 '이번 10 년이 끝나기 전에 우리 모두를 죽일 수 있다'고 공개 선언했다. 메닌 시의원의 표현은 직설적이었다. 뉴욕은 모든 산업을 규제하는데, 거의 모든 대형 AI 기업이 뉴욕에 사무실을 두고 있으면서도 '사실상 무규제'라는 것이다.
연방의 부재, 지방의 행동
큰 그림에서 보면 이 법안 묶음은 '연방의 부재, 지방의 행동'의 또 다른 각주다. 6 월 뉴욕주 의회가 통과시킨 RAISE 법(프런티어 모델 개발자에게 안전 계획 수립 의무, 내년 1 월 시행), 호컬 주지사의 초대형 데이터센터 환경 심사 동결, 제임스 주 검찰총장의 AI 종사자 대상 익명 신고 채널. 시의회 이번 조치는 규제의 입자도를 도시 단위까지 끌어내렸다. 새 모델에 먼저 미국 심사를 거치도록 한 백악관의 전례가 보여주듯, 모델 배포·공유에 대한 심사 논리는 모든 층위에서 동시에 조여지고 있다.
냉정히 보면 법안은 아직 '발의' 단계로, 실제 법이 되기까지 청문회·표결·시장 서명이라는 관문이 남았다. '제3 자 검증'의 구체적 기준이나 킬 스위치의 기술적 정의(어느 규모 모델, 어느 위험 수준에서 발동하는지)에도 세부 규정은 없다. 하지만 신호는 분명하다. 연방 차원이 AI 안전 우려를 '사기극'이라 부를 때, AI 에 재갈을 물리고 싶은 지방 정부는 직접 움직인다.
