Claude는 2026년 10월 16일 Anthropic이 발표한 연구에서 양자 회로 8개를 스스로 다시 설계했고, 8개 모두에서 기존에 발표된 최상의 설계를 넘어섰다. 일부 작업에서는 필요한 자원이 한 자릿수 규모로 줄었다. 이 작업은 Anthropic의 STEM Fellows 프로그램에서 나왔고, Andi Gu가 이끌고 양자물리학자 Alek Kemeny가 지도했으며, 하버드대의 Susanne Yelin과 Mikhail Lukin이 협력했다. 논문 전체는 arXiv에 공개됐다.
명세서와 채점표만 주고, 반복은 스스로
양자 회로의 비용은 두 숫자로 잴 수 있다. 큐비트를 몇 개 쓰는지, 양자 게이트가 몇 개 필요한지다. 연구팀이 Claude Mythos 5에 준 것은 화학, 최적화, 물리 시뮬레이션, 정수론, 수치 계산에 걸친 기본 계산 단위 8개에 대한 자연어 명세와, 설계가 올바른지 먼저 검증한 뒤 큐비트 수에 게이트 수를 곱해 채점하는 자동 평가 프로그램뿐이었다. Claude는 이 닫힌 루프 안에서 제안하고, 점수를 받고, 고치는 과정을 사람 개입 없이 반복했고, 최종적으로 8개 회로 모두에서 큐비트와 게이트를 함께 줄였다.
이는 일반 코드를 다룰 때의 방식과 같은 구조다. Claude Code Review 정식 출시: PR 하나 심사에 6~10분도 '먼저 자동 검사, 그다음 사람 검토'라는 순서 위에 서 있다. 차이는 양자 회로에만 있는 두 가지 단단한 제약이다. 양자 상태는 여러 입력을 동시에 달리기 때문에 일반 코드처럼 조건 분기로 중간 결과를 버릴 수 없고, 작업용 정보를 그냥 지울 수도 없다. 모든 단계가 가역적이어야 하므로 버리려면 계산을 거꾸로 다시 돌려야 한다. 이 두 가지가 바로 회로가 비싼 이유다.
53시간, 모듈러 역원이라는 오래된 난제를 파고들다
8개 작업 중 가장 어려운 것은 타원곡선 점 덧셈으로, 타원곡선 이산로그 문제에 대한 양자 알고리즘의 핵심 단계이며 그중 가장 비싼 부분이 모듈러 역원이다. 고전 컴퓨터는 divsteps라는 방법으로 이를 효율적으로 계산하지만, 이 방법은 매 반복의 분기 기록을 보관해야 하고 양자 회로는 그 이력을 저장할 여유가 없어 실용적인 가역 버전이 존재하지 않았다.
Claude는 한 문단의 지시만 받고 53시간을 연속으로 작업했다. 사람의 입력은 처음 지시와 몇 차례의 '더 넓게 생각하라'는 권유가 전부였다. 분기 기록을 저장하지 않고 숫자 쌍에서 복호하겠다는 첫 아이디어가 256비트 실제 크기에서 무너지자, Claude는 새로운 대수 항등식 여러 개를 스스로 증명하고 정확한 복호 공식을 도출한 뒤, 대규모 수치 시뮬레이션과 Lean 형식 검증으로 확인해 분기 이력을 저장하지 않는 최초의 가역 divsteps 구현을 만들어냈다. 저장과 재계산의 배분을 다듬은 성과군 중에는, 기존 최소 설계보다 큐비트를 12% 더 쓰는 대신 게이트 수를 17분의 1로 줄인 설계도 포함됐다.
최적화 알고리즘에서 가장 비싼 단계를 12분의 1로
두 번째 사례는 복호 양자 간섭법(DQI) 내부의 디코더로, 이 최적화 알고리즘에서 자원을 가장 많이 먹는 단계다. Claude는 확장 유클리드 알고리즘이 맞지 않다고 판단하고, 라운드 수가 고정돼 '모든 입력에 하나의 게이트 열을 돌리는' 회로와 잘 맞는 Berlekamp–Massey 방식을 중심으로 디코더를 다시 짰다. 임시 값도 통째로 저장하지 않고 현재 상태에서 복원한다. 메모리를 얼마나 잡아야 할지 정하기 위해 고속 시뮬레이터를 직접 만들고 디코딩을 4억 300만 회 표본 실행한 결과, 저장이 필요한 예외는 거의 한 건을 넘지 않아 최악의 경우인 665큐비트가 아니라 19큐비트만 예약했고, 대가로 약 1만 회에 한 번꼴의 실패를 허용 범위 안에 넣었다. 세 가지 개선이 겹쳐 디코더의 게이트 수는 구글의 기존 구성의 12분의 1이 됐다.
규모를 가늠할 비교도 있다. 철-황 분자 FeMoco의 바닥 상태 에너지 추정치는 인간 연구 그룹들이 8년에 걸쳐 2017년의 약 50조 게이트에서 약 3억 4000만 게이트로 낮춰 왔다. 이번 타원곡선 설계는 53시간짜리 자동 실행 한 번에서 나왔다. 차가운 주석도 원문에 있다. 이들은 평가 프로그램과 시뮬레이션으로 검증된 설계일 뿐 실제 양자 하드웨어에서 돌린 결과가 아니며, 오류 정정 부호와 고속 디코더, 하드웨어 제어 같은 다른 요소들은 여전히 독립된 난제로 남아 있다. Anthropic은 Claude가 실험 초반 지나치게 신중해 이미 뒷받침된 개선을 반복 확인하는 경향이 있었고, 연구팀이 여러 접근을 병행시키고 가끔 탐색을 넓히도록 권해야 했다고도 적었다. 그렇더라도 이번 결과는 양자 컴퓨팅의 일정표에 새 변수를 하나 더했다. 회로를 설계하는 주체가 더 이상 사람만이 아닐 수 있다는 것이다.
