GPT-6 Astra는 2026년 11월 2일에 공개된 연구 글에서 다른 모델의 가중치를 직접 다시 썼다. MIT CSAIL 연구자 네 명은 Astra에게 알리바바의 오픈 소형 모델 Qwen3.5-0.8B의 원시 가중치를 읽게 하고, 수학 문제를 풀 때 반복에 빠지는 원인을 찾게 한 뒤 가중치의 0.016%를 수정하게 했다. 동일한 샘플링 조건에서 MATH-500 점수는 7.9%에서 48.1%로 올랐다. 이는 실험 로그를 전부 공개한 연구 시연이며, 아직 범용 학습 방법은 아니다.
반복에 갇히는 것이 이 소형 모델의 주된 문제였다
Astra는 문제를 15층과 19층의 다층 퍼셉트론에서 찾아냈고, 모델을 제자리에서 맴돌게 하는 방향 하나를 제거해 총 131,072개의 가중치 항목을 바꿨다. 수정 전에는 MATH-500 답변의 93.0%가 32,768개의 새 토큰 상한에 닿아 결과를 내지 못했지만, 수정 후에는 그 비율이 33.1%로 떨어졌다. GSM8K는 13.8%에서 67.1%로, 지시 따르기 벤치마크 IFEval은 21.0%에서 62.3%로 올랐다. 연구자들은 이번 향상이 장애물을 치운 데서 온 것이지, 원래 없던 수학 지식을 가중치에 집어넣은 결과가 아니라고 강조했다. 포워드 패스 50회의 가장 좋은 실행에는 20.3시간, 158번의 대화, 80번의 Python 실행이 들었다. 비용은 탐색 과정에 있지, 수정 자체에 있지 않다.
가중치를 읽고 쓰는 일로 Astra는 다른 과제도 시도했다
같은 글에서 Astra는 원시 가중치만 보고 네 개의 소형 네트워크가 각각 어떤 게임을 하도록 훈련됐는지 맞혔다. 도구를 쓰지 않은 한 번의 답변으로 정책 네트워크 가중치의 3.5%를 바꿔, 경사로 앞에서 계속 멈추던 자동차를 1,024번의 테스트에서 모두 성공시켰다. 처음부터 직접 쓴 MinAtar 게임 네트워크는 Breakout에서 5억 스텝을 훈련한 PPO 네트워크를 앞질렀다. 이 결과는 모두 연구자 자신의 평가에서 나온 것으로, 제3자의 독립적인 재현은 아직 이뤄지지 않았다. 공개 로그로 재구축한 수정 모델 버전은 MATH-500에서 51.0%를 기록해 같은 방향을 보여주지만, 별도의 재실행이므로 원문의 수치와 직접 나란히 둘 수는 없다.
결함이 분명한 모델에만 통한다
대조 실험이 경계를 보여준다. Gemma 3 270M은 거의 반복에 빠지지 않기 때문에, Astra가 여러 번 수정해도 MATH-500은 6.8%에서 7.0%~7.7% 사이에서만 움직였고, 연구자들은 향상이 확립됐다고 볼 수 없다고 밝혔다. Astra는 가중치만으로는 두 Gemma 모델 중 어느 쪽이 더 아첨하도록 훈련됐는지도 구분하지 못했다. 48.1%는 네 번 중 가장 좋은 성적이고, 포워드 패스 10회에서는 12.3%에 그쳤다. 이 연구의 가치는 프런티어 모델이 이미 가중치 자체에 표적을 정한 추론 기반 수정을 할 수 있음을 보여줬다는 데 있다. 경사 하강 학습을 대체하거나 임의의 대형 모델을 자동으로 고치는 일과는 아직 거리가 멀다.
