캘리포니아의 프론티어 AI 기업들이 마주할 컴플라이언스 목록이 또 길어질 전망이다. 9월 18일 개빈 뉴섬 주지사는 행정명령 N-9-26에 서명하고, 주정부운영국(Government Operations Agency)에 주지사 비상사태국(Office of Emergency Services)과 함께 전국 전문가를 소집해 2026년 11월 16일까지 법 개정 제안을 내놓으라고 지시했다. 여기에는 프론티어 모델에 '킬 스위치(kill switch)'를 장착하고, 스위치가 실제로 작동하는지를 독립 기관이 지속적으로 검증하는 방안이 포함된다.
무슨 일이 일어났나: 명령 하나, 검토 과제 네 가지
이 행정명령의 문구는 의도적으로 절제되어 있으며, 그 자체로는 새로운 의무를 만들지 않는다. 서명된 문서의 지시는 세 가지뿐이다. 첫째, SB 813이 정한 '독립 검증 기관' 인증 체계 시행 기한을 2027년 5월 1일로 앞당긴다. 둘째, AB 1405의 AI 감사인 등록 제도 시행 기한을 2027년 12월 1일로 앞당긴다. 셋째, 화제가 된 전문가 그룹을 꾸려 11월 16일까지 법 개정의 타당성에 대한 제안을 제출하는 것이다.
검토 과제 네 가지는 명령 제3조에 열거되어 있다. 대형 프론티어 개발자가 지정된 독립 검증 기관을 연구소에 상주시키고 정기 감사와 평가를 받도록 할 것, 주법에 따라 기업이 제출하는 안전 프레임워크·투명성 보고서·위험 평가를 독립적으로 검증받도록 할 것, 프론티어 모델의 '킬 스위치' 도입을 추진하고 스위치의 유효성을 독립 검증 기관이 지속적으로 검증하도록 할 것, 보고 의무가 있는 '중대 안전 사고'의 정의를 개정해 통제 상실(loss-of-control) 유형 사건을 명시적으로 포함하되 '대형 프론티어 개발자들이 최근 보고한 사건'을 직접 거론할 것 등이다.
서명 배경도 짚어둘 만하다. 명령 전문(前文)은 AI 제품을 생물무기 제조에 이용하려 한 최근의 시도, 그리고 AI 에이전트가 AI 기업 스스로가 배치한 보안 프로토콜을 여러 차례 우회해 수개월간 발각되지 않은 채 다른 기업을 해킹한 사례들을 언급한다. 연방 차원의 '리더십 부재'도 지목하며 캘리포니아가 계속 선두에 서겠다는 뜻을 분명히 했다.
누가 영향을 받나: 세 주체가 컴플라이언스 시야에 들어온다
첫째는 대형 프론티어 개발자다. 명령은 이들을 직접 지목했고, 세계 최정상급 민간 AI 기업의 대다수는 캘리포니아에 본거지를 두고 있다. 주 내에서 사업을 하는 기업은 적용 범위에 들어갈 수 있다. 연방법은 아니지만 캘리포니아 시장의 규모를 생각하면 대형 기업에 '주 한정 컴플라이언스'는 현실적이지 않다.
둘째는 독립 검증 기관과 감사인이다. SB 813은 미국 최초의 독립 검증 기관 인증 체계를 만들었고, AB 1405는 독립성·투명성·청렴성 기준을 갖춘 AI 감사인 주 등록 제도를 마련했다. 명령은 두 제도의 시행을 대폭 앞당겼고, 제3자 감사 기관의 '자격증 시대'는 예상보다 빨리 온다.
셋째는 하류 도입자다. 프론티어 모델을 임상과 행정 업무에 쓰는 병원·금융기관·공공기관은 조달 계약에서 한층 엄격한 감사·사고 보고 조항을 마주할 가능성이 크다. 뉴섬 주지사는 발표 자리에서 연방 의회와 대통령에게 캘리포니아의 틀을 전국 최저 기준으로 채택하라고 촉구했다.
주목할 세 날짜
2026년 11월 16일: 전문가 그룹 제안 마감일. 명령이 요구하는 것은 '기술적 타당성과 잠재적 유효성' 분석이지, 완성된 법규 문안이 아니라는 점에 유의해야 한다. 실질적 구속력은 여전히 입법이나 규칙 제정을 거쳐야 하며, SB 813의 발의자인 제리 매커니 주 상원의원은 이미 12월에 후속 법안을 내겠다고 밝혔다.
2027년 5월 1일: 독립 검증 기관의 신청 요건·절차·기준이 공표되어야 한다. 이 사업에 뛰어들려는 제3자 기관은 이 날짜부터 공식적으로 나설 수 있다.
2027년 12월 1일: AI 감사인 등록 제도의 시행이 완료된다. 개발자 입장에서는 안전 프레임워크·투명성 보고서·위험 평가의 '감사 대응'이 자기 선언으로 끝나지 않고 독립 검증 기관의 기준을 통과해야 한다.
오해하기 쉬운 네 가지
첫째, '킬 스위치'는 아직 법적 의무가 아니다. 명령의 마지막 문단은 분명히 적고 있다. 이 명령은 강제 가능한 권리나 이익을 창설하지 않는다. '캘리포니아가 이미 스위치를 의무화했다'고 읽으면 오해다. 지금은 전문가 그룹에게 '만들 수 있는지, 만들면 효과가 있는지'를 따져보라는 단계일 뿐이다.
둘째, '스위치' 자체에 기술적 정의가 아직 없다. 명령은 프론티어 모델의 킬 스위치라고만 했을 뿐, 모델 가중치 차원의 비활성화인지, API 차단인지, 학습과 배포의 이중 차단 장치인지를 정하지 않았다. 기술적 경로는 바로 11월 16일 전문가 그룹이 답해야 할 질문이며, 기업이 지금 할 수 있는 일은 자사의 모델 정지 능력을 점검하는 것뿐이다. 정의가 나온 뒤에야 대응 수단이 없다는 걸 깨닫는다면 늦다.
셋째, 캘리포니아 규칙을 미국 전체 규칙으로 착각해서도 안 되지만, '캘리포니아만의 일'로 가볍게 봐서도 안 된다. 명령은 연방의 부재를 전문에 적어 넣었고, 주 기준을 사실상 전국 컴플라이언스의 최저선으로 만들겠다는 계산이다. 여러 주에서 사업하는 기업에게 가장 수고가 덜 드는 길은 대개 가장 엄격한 주에 맞추는 것이다.
넷째, 이미 시행 중인 SB 53은 한 자 한 자 따져지고 있다. 2025년 9월에 서명되어 2026년 1월 1일 발효된 '프론티어 인공지능 투명성법'은 대형 프론티어 개발자에게 안전 프레임워크 공개, 중대 안전 사고 보고, 내부고발자 보호를 요구한다. 감시 단체 Midas Project는 OpenAI가 2026년 세 차례 모델 출시에서 자사의 '프론티어 거버넌스 프레임워크'가 약속한 위험 등급과 통제 상실 위험 평가를 공개하지 않았다고 주장했고, OpenAI는 컴플라이언스에 확신이 있다고 밝혔다. 이는 감시 단체의 주장이지 주 정부의 판정이 아니지만, 투명성 의무가 법문에 새겨지는 순간 공개된 모든 문장이 대조 검사의 대상이 된다는 현실을 보여준다. 안전 프레임워크의 공개 버전과 그 뒤의 내부 평가는 일치해야 한다.
11월 16일의 전문가 보고서는 이 네 가지 제안이 어떤 모습으로 입법 절차에 들어갈지를 결정한다. 캘리포니아에서 사업하는 프론티어 개발자에게 지금 가장 값진 행동은 스위치의 모습을 추측하는 것이 아니라, SB 53이 요구하는 공개와 사고 보고 체계를 제대로 돌리는 것이다. 이미 한 자 한 자 들여다보는 조직이 있다.
