Anthropic이 올해 7월 이미 자사가 설정한 AI 가속 경고선을 넘었을 가능성이 있다. 비영리 평가 기관 METR이 11월 6일 발표한 감사 결론에 따르면, 2025년 10월 이후 Anthropic 모델의 테스트 점수 상승 속도가 약 1.9배 빨라졌고, 그중 약 80%는 AI가 회사 자체 연구에 활용된 데 따른 것이다. 감사는 11주간 진행됐다. METR과 Anthropic의 협력 관계는 이미 구축돼 있었고, 6명의 평가자가 앞서 직원 수준의 접근 권한을 받았으며, 이번에는 미공개 모델의 벤치마크 성적, 학습 지표, 직원 조사, 내부 분석까지 확보하고 약 15명의 연구자를 인터뷰했다.
가속은 어떻게 측정됐나
숫자 뒤에는 속도의 급변이 있다. 2025년 10월 이전 Anthropic 모델은 연간 약 15점(AECI 종합 점수) 향상됐지만, 이후에는 연간 29점에 달해 2년이 걸리던 진보를 1년 만에 이뤘다. Claude 2.1에서 Sonnet 4.5로의 도약과 거의 맞먹는 수준이다. 분석 대상은 2026년 7~10월 학습을 마친 미공개 모델 3종이다. METR은 가속의 원인이 학습 연산량 증가가 아니라고 결론 내렸다. 직원들은 최신 내부 모델 덕분에 생산성이 약 12배 높아졌다고 답했지만, METR은 이는 매우 대략적인 증거이며 과대평가됐을 수 있다고 경고했다. AI가 아직 완전히 자율적인 연구를 수행하는 것은 아니며, 가속은 주로 AI가 조수 역할을 하는 데서 오지만, 독립적 기여의 초기 징후가 있고 향후 12개월간 속도를 늦출 병목은 보이지 않는다.
가려진 증거가 앗아간 것
결론의 불확실성도 작지 않다. 실제 가속 배율은 1.3배에서 3배 사이일 수 있다. OpenAI, 구글, xAI를 포함하면 업계 전체 수치는 1.4배로 떨어지는데, Anthropic이 2025년 경쟁사에 뒤처져 따라잡기 효과가 수치를 왜곡했을 가능성이 있다. Anthropic은 비공개 정보에 대한 일방적 삭제 권한을 갖고 이를 대거 행사했다. 가장 유익한 증거 대부분이 삭제됐고, 여기에는 향후 모델 예측, 학습 단계별 분석, 병목 분석이 포함됐다. 보고서의 한 그래프에는 'FAKE DATA'라는 문구가 크게 찍혀 있다. METR은 별도 검토에서 Anthropic의 8월 위험 보고서 공개본이 가속을 '2배 미만'이라고 했지만, 삭제되지 않은 내부본은 1.97배를 시사하며 회사 스스로도 경고선이 넘겼을 가능성을 인정했다고 지적했다. METR은 넘어선 시점을 7월 15일로 보고 있다. 이는 Anthropic이 최근 증권신고서 수정에서 가속 연구가 자기개선 임계점에 부딪힐 수 있음을 인정한 것과도 들어맞는다.
METR은 현재 급성 재앙적 위험이 낮다는 Anthropic의 판단에 동의하지만, 향후 6개월 내 다시 급가속이 일어나 위험 등급이 빠르게 올라갈 가능성을 배제하지 않는다. 연산 자원을 능력 연구와 안전 연구 사이에 어떻게 나누는지를 검증하려던 부분은 Anthropic이 중간에 중단했고, 위험 평가에 먼저 집중하고 싶다고 밝혔다. AI 2027의 저자 대니얼 코코타일로(Daniel Kokotajlo)는 X에서 이를 비판하며, 연산 배분 감사가 속도 조절 약속을 검증 가능하게 만드는 기반이라고 주장했다. 앞으로 주목할 점은 Anthropic이 이 부분의 감사를 재개할지, 그리고 경고선이 넘긴 지금 무엇이 작동할지다.
