Anthropic의 안전 법안 초안이 수면 위로 올라왔다. 2026년 10월 16일, 로이터는 Politico의 보도를 인용해 Anthropic 관계자들이 가장 앞선 AI 모델에 안전·보안 규칙을 정하는 회사 작성 법안 초안을 연방 의회 의원들에게 조용히 제안해 왔다고 전했다. 보도는 사정을 아는 세 사람의 말을 근거로 한다. 로이터 취재 시점에 Anthropic과 상무부는 모두 논평 요청에 즉시 답하지 않았다. 초안은 아직 로비 단계로, 공개된 텍스트도, 발의자로 이름이 오른 의원도 없다.
모델을 멈출 수 있는 기준은 의도적으로 높게 잡혔다
초안에서 가장 눈에 띄는 대목은 정부 권한이 좁게 묶여 있다는 점이다. 정부가 모델의 출시나 사용을 막을 수 있는 경우는, 그 모델이 예견 가능하고 임박한 방식으로 10억 달러가 넘는 피해를 일으키거나 50명 이상의 사망·중상을 낼 위험이 있을 때뿐이다. 위험의 출처도 세 가지로 열거해 한정했다. 생물무기 제조·방출을 돕는 경우, 모델이 개발자의 통제를 벗어나는 경우, 사이버 공격에 쓰이는 경우다. 편향, 오정보, 상거래 분쟁 같은 일상적 해악은 이 '비상 브레이크'의 대상이 아니다. 노리는 것은 재앙급 위험뿐이다.
중단 절차도 마찬가지로 좁다. 절차를 시작할 수 있는 곳은 상무부뿐이며, 상무부가 위험이 있다고 판단하면 법원에 청구해 컬럼비아 특별구 연방지방법원 판사가 중단 명령을 내리는 구조다. 초안은 그 밖의 어떤 부처·기관·공무원도 독자적으로 모델의 개발·배포·내부 사용을 중단시키는 것을 명시적으로 금지한다. '누가 브레이크를 밟을 수 있는가'와 '어떤 조건에서 밟을 수 있는가'가 같은 좁은 문 안에 적혀 있다.
그 사이에는 독립 평가자라는 층이 있다
초안의 또 다른 축은 평가 장치다. 독립 평가자는 상무부에 등록하고 연구소와 그 최첨단 모델을 정기적으로 평가한다. 연구소가 평가자에게 비용을 지급하는 것은 허용되지만, 지급을 평가 결과와 연결해서는 안 된다. 평가자가 기업의 최첨단 모델에서 열거된 임박한 위험을 확인하면 평가 완료 후 72시간 안에 상무부에 보고해야 한다. 개발자 쪽에도 최첨단 모델 테스트, 결과의 투명 공개, 독립 평가 수용 같은 의무가 부과된다. 이는 Anthropic이 올해 앞서 발표한 Advanced AI Framework의 제안과 이어지는 내용이다.
같은 주에 정반대 방향의 목소리도 나왔다. 마이크로소프트 사장 Brad Smith는 전 세계 공통의 AI 규칙과 사고 보고 의무화를 공개적으로 촉구했다(Brad Smith의 발언을 다룬 기사 참조). Anthropic의 초안은 반대 길을 간다. 일상적인 허가제는 두지 않고, 발동 기준이 극히 높고 절차도 좁은 중단권만 남긴 뒤, 일상적인 감시는 등록 평가자에게 맡기는 설계다.
이 초안의 무게를 어떻게 볼 것인가
이것은 무엇보다 규제 대상 기업이 직접 쓴 규칙의 견본이다. 발동선이 10억 달러와 50명이라는 단위에 놓인 이상 통상적인 모델 업데이트가 그 선에 닿을 일은 거의 없다. 일상 규제의 무게는 테스트·투명성·평가로 옮겨 가고, 국가 권력은 극단적인 경우에, 그것도 법원을 거쳐서만 등장한다. 이 초안이 입법 논의의 밑그림이 된다면 '받아들일 수 있는 규제의 모양'에 대한 첫 조건 설정은 업계가 쥐게 된다.
한계도 같은 비중으로 적어 둬야 한다. 이것은 아직 법안이 아니라 제안 중인 초안일 뿐이다. 보도에 지지자 명단은 없고, 의회가 받아들일지, 기준 숫자가 입법 과정에서 그대로 남을지는 알 수 없다. 'Anthropic이 강한 규제를 환영한다'고 읽는 것도, '자사에 맞춰 방벽을 설계했다'고 읽는 것도 현재 공개된 정보를 넘어선 해석이다. 확인할 수 있는 것은 더 좁지만 그래도 의미 있는 사실이다. 최첨단 연구소가 자사 버전의 브레이크 설계를 입법자 손에 직접 건네기 시작했다는 점이다.
