OpenAI는 2026년 10월 6일 공식 블로그를 통해 아직 공개되지 않은 내부 프런티어 모델이 만들어 낸 수학 연구 성과 묶음을 공개했다. 원고 722건, 결과 계열 372개에 이르며 오랫동안 풀리지 않던 수학 문제 수백 건을 다루는 이례적인 규모다. 성과는 학술지가 아니라 원고 수정과 인용 규칙을 갖춘 단일 GitHub 저장소에 올라갔고, 검증은 수학계에 맡겨졌다.
이번 공개가 실제로 주장하는 것
OpenAI는 2026년 9월 이미 자사 모델이 수학의 거의 전 분야에 걸쳐 오래된 미해결 문제 100건 이상을 풀었다고 밝힌 바 있다. 이번 공개는 그 주장을 직접 읽을 수 있는 텍스트로 바꾼 것이다. 증명 자체 외에도 모델 추론 과정 일부의 요약, 사용된 연산량 추정치, 모델이 모두 몇 개 문제에 도전했는지가 포함됐다. OpenAI의 설명에 따르면 전형적인 성과 1건에 든 연산량은 ChatGPT Pro가 3시간 연속으로 사고하는 수준과 비슷하다.
즉 이는 모델이 한 문제에서 운 좋게 번뜩인 이야기가 아니다. 수많은 미해결 문제를 같은 미공개 모델에 하나씩 투입하고, 결과물을 원고로 정리해 한꺼번에 공개한 대규모 파이프라인이다. 양 자체가 신호다. 프런티어 모델의 수학 활용이 경진 문제 풀이에서 미해결 연구 문제를 체계적으로 공략하는 쪽으로 옮겨가고 있다.
왜 Lean 형식화가 붙어 있는가
이번 성과의 상당 부분은 Lean으로 형식화됐다. Lean은 컴퓨터가 증명을 한 줄씩 검사할 수 있는 체계로, 형식화된 증명의 옳고 그름은 심사자의 직관이 아니라 기계 검증으로 판정된다. AI 생성물에 대한 가장 큰 의문이 신뢰성인 만큼, 기계로 검증 가능한 증명이라는 점이 이 원고들을 일반 프리프린트와 구분한다.
경계도 분명하다. 형식화된 것은 일부일 뿐이고, 나머지는 여전히 인간 수학자의 평가와 소화 과정을 거쳐야 한다. OpenAI 스스로도 전체 영향이 드러나려면 시간이 걸린다고 인정했다. 원고 722건 중 몇 건이 동료 검증에서 살아남을지는 아직 알 수 없다.
논쟁의 초점은 답이 아니라 공개 방식이다
이번 성과를 둘러싼 논의의 초점은 수학 자체보다 공개 방식에 맞춰져 있다. 9월 하순, 수학자들로 구성된 독립 자문 그룹 AGMAI는 첫 권고를 냈다. 핵심은 명확했다. 연구소는 확립된 학술 채널을 통해 성과를 신속히 공개해야 하고, 사용한 모델 이름과 프롬프트, 연산량을 밝혀야 하며, 수학 성과의 공개를 자사 모델 홍보 수단으로 삼지 말아야 한다는 것이다.
이 기준에 비춰 보면 이번 공개는 일부에 답했다. 성과가 한곳에 공개됐고 연산량 수치도 제시됐으며 수정과 인용 규칙도 포함됐다. 그러나 가장 중요한 항목이 빠져 있다. 성과를 만든 모델은 이름이 없고, 아직 출시되지 않은 내부 모델이다. 독자는 증명을 검증할 수 있지만 그 증명을 만든 과정은 재현할 수 없다. 수학에서는 증명을 독립적으로 검증할 수 있다. AI 업계가 주목할 지점은 다르다. 모델이 검증 가능한 연구 성과를 대량으로 만들기 시작했을 때, 연구소의 공개 규범이 그 생산 속도를 따라갈 수 있느냐다.
