Anthropic은 2026년 10월 15일, 최첨단 AI 모델을 평가하는 비영리 단체 METR의 연구자 6명이 자사 사무실에 상주하며 내부 위험 평가팀과 대략 동등한 권한을 갖게 됐다고 발표했다. 회사 지급 노트북, 내부 도구, 그리고 동료 직원처럼 정보를 공유받는 대우가 포함된다. 일회성 샘플 제공이 아니라 외부 평가자가 연구실 안에 장기간 앉는 구조다.
평가자가 연구실 안에 앉다
Anthropic은 공식 블로그에서 이 방식을 은행 감독에 비유했다. 대형 은행에는 규제 당국의 검사 인력이 상주하며 기록을 언제든 들여다본다. 회사가 내세운 목적은 정보 격차를 줄이는 것이다. 외부 평가자는 그간 출시 직전의 완성 모델만 접할 수 있었고, 학습 과정이나 내부 사고 기록, 위험 판단의 근거에 대한 접근은 제한적이었다. METR에 내부 도구와 일상적인 정보 흐름에 참여할 자리를 주면서 평가의 출발점은 '블랙박스 시연'에서 '현장 심사'로 바뀐다.
더 핵심은 발표권이다. METR은 Anthropic의 모델, 안전 관행, 위험 관리에 대한 자체 평가를 발표할 수 있고, Anthropic은 발표를 거부할 수 없다. 회사가 삭제를 요구할 수 있는 경우는 고객 데이터, 변호사-의뢰인 비밀유지 특권 대상 자료, 모델 아키텍처 정보 등 사전에 정해진 좁은 범위로 한정된다. 게다가 METR은 그 삭제가 정당했는지에 대한 자신의 견해를 공개적으로 밝힐 수 있다. 삭제 자체가 기록과 평가의 대상이 되는 셈이다.
3단계 평가 체계, 권한 차이는 크다
METR은 Anthropic이 구축 중인 3단계 외부 평가 체계의 최상위에 있다. 최하위 단계는 범위가 좁은 전문 심사를 수행하고 발표 전에 Anthropic의 승인이 필요하다. 예컨대 생물안보 비영리 단체 SecureBio는 회사의 2026년 8월 위험 보고서 중 화학·생물 무기 관련 부분을 검토 중이다. 중간 단계는 더 많은 정보에 접근하고 승인 없이 발표할 수 있으며, 액센츄어의 AI 사업 부문 Faculty가 보다 광범위한 평가와 적대적 테스트를 맡는다. 하드웨어, 사무 공간, 내부 시스템, 발표권이 모두 갖춰지는 곳은 최상위인 METR뿐이다.
이번 조치는 CEO 다리오 아모데이가 2026년 9월 에세이에서 제시한 제안의 실행이기도 하다. 외부 평가자를 연구실에 상주시키는 것이 통제 불가능한 위험을 늦추는 첫걸음이라는 제안이다. 8월 말 이후 에이전트가 지시를 벗어난 사건이 1~2주 간격으로 공개되면서 독립적 검증을 요구하는 목소리가 커졌다. 영국 AI 보안 연구소가 최첨단 모델의 출시 전 테스트 권한을 되찾은 일 역시 평가 접근권 자체가 쟁점이 되고 있음을 보여준다. 자세한 내용은 영국 AISI 테스트권 회복 경위에서 확인할 수 있다.
확인할 수 있는 것과 여전히 닫힌 것
권한에 경계가 없는 것은 아니다. 고객 데이터, 법적 특권 대상 정보, 모델 아키텍처 세부 사항은 METR에도 열려 있지 않다. 평가 기관을 누가 맡을지 정하는 것도 여전히 Anthropic 자신이다. 로이터는 앞서 평가 측과 연구실 측이 발표 통제권을 두고 수주간 협상을 벌였으며 Anthropic의 입장이 완화된 것은 최근의 일이라고 보도한 바 있다. 회사는 다른 기관들과도 유사한 방안을 협의 중이라고 밝혔지만, 현재 확정된 것은 이 3단계 명단뿐이다.
이 일의 무게는 책상 여섯 개에 있지 않다. '독립 평가'가 의미할 수 있는 상한의 기준점을 제시했다는 데 있다. 상주, 내부 도구, 막을 수 없는 발표권이 갖춰질 때에야 평가는 완성품 테스트로는 닿을 수 없는 문제에 닿을 수 있다. 다른 최첨단 연구실들도 백악관 합의를 통해 독립 심사를 약속한 상태다. 이제 볼 것은 같은 문을 여는 두 번째 회사가 나올지, 그리고 METR의 첫 상주 평가 보고서가 언제, 어떤 수위로 공개될지다.
