Anthropic이 미국 의회에 AI 안전 법안 초안을 제시하고 있다는 사실이 2026년 10월 20일 보도됐다. 모델이 50명 이상의 사망 또는 10억 달러 이상의 재산 피해를 일으킬 수 있는 예견 가능하고 임박한 위험이 있다고 평가되면 출시를 막을 수 있다는 내용이다. Politico가 처음 보도했고, Anthropic 대변인은 Politico에 초안의 존재를 확인하며, 회사가 2026년 6월부터 연방·주 의원들에게 주장해 온 Advanced AI Framework 제안을 법제화한 것이라고 밝혔다.
레드라인은 세 가지 재앙에 그어진다
초안이 출시 차단 대상으로 삼는 위험은 세 가지 출처로 한정된다. 모델을 이용한 생물무기 제조, 모델이 개발자의 통제를 벗어나는 경우, 그리고 모델을 이용한 사이버 공격이다. 50명과 10억 달러라는 두 수치는 새로운 것이 아니라, 이미 통과된 캘리포니아주 SB 53의 '재앙적 위험' 정의와 거의 일치한다. 주법에 먼저 등장한 기준이 연방 초안으로 옮겨온 셈이다. 독자에게 쟁점은 선을 그을지 말지에서 어느 숫자에 그을지로 이동했다. 법에 명시되면 앞으로 모든 프런티어 모델은 출시 전에 이 평가를 거쳐야 한다.
판단은 독립 평가자, 결정은 판사
초안에 따르면 위험을 판단하는 주체는 연구소 자신이 아니라 미국 상무부에 등록한 독립 평가자다. 평가자는 연구소로부터 보수를 받을 수 있지만, 보수를 결과와 연동해서는 안 된다. 평가자가 임박한 재앙적 위험을 인정하면 72시간 이내에 상무부에 통보하고, 상무부는 워싱턴 DC 판사에게 출시 중단을 요청한다. 초안은 어떤 연방 기관도 자체 판단으로 배포를 중단하는 것을 명시적으로 금지한다. 행정 재량을 의도적으로 가두는 설계로, 모델을 멈추는 권한은 최종적으로 법원을 거친다. 이 사이트에서 앞서 전한 FTC가 OpenAI와 Anthropic에 조사 명령을 내린 사건처럼 규제 압력이 커지는 가운데, 이번에는 기업이 수용 가능하다고 여기는 규칙을 먼저 내놓았다.
연구소가 자기 규칙을 내는 일의 복잡함
업계의 의견은 갈린다. NVIDIA CEO 젠슨 황은 최근 AI 업계에 새 법이 필요 없다고 공개적으로 말한 반면, Anthropic은 강제 중단 조항이 담긴 문안을 스스로 제출하며 대다수 동종 업체의 자발적 약속보다 더 나아갔다. 다만 비용을 받는 평가자의 독립성은 초안의 가장 약한 고리다. 보수가 결과와 연동되지 않는다고 해서 재계약에 대한 우려가 자동으로 사라지지는 않는다. 이 초안이 의회에 받아들여질지, 50명과 10억 달러 기준이 협상 과정에서 바뀔지가 앞으로 지켜볼 변수다.
