GPT-6 Astraは、2026年11月2日に公開された研究記事で、別のモデルの重みを直接書き換えた。MIT CSAILの研究者4人は、Astraにアリババのオープンな小型モデルQwen3.5-0.8Bの生の重みを読ませ、数学の問題を解く際に繰り返しに陥る原因を見つけさせ、そのうえで重みの0.016％を変更させた。同じサンプリング条件で、MATH-500のスコアは7.9％から48.1％に上がった。これは実験ログをすべて公開した研究デモンストレーションであり、まだ汎用的な学習手法ではない。
繰り返しに陥ることが、この小型モデルの主な問題だった
Astraは問題を第15層と第19層の多層パーセプトロンに特定し、モデルを堂々巡りさせる方向を1つ取り除き、合計131,072個の重みエントリを変更した。変更前は、MATH-500の回答の93.0％が32,768トークンの上限に達して結果を出せなかったが、変更後は33.1％に下がった。GSM8Kは13.8％から67.1％に、指示追従ベンチマークのIFEvalは21.0％から62.3％に上がった。研究者は、得られた改善は障害を取り除いたことによるもので、もともとなかった数学の知識を重みに詰め込んだわけではないと強調している。50回のフォワードパスによる最良の実行には20.3時間、158回の対話、80回のPython実行がかかった。コストは探索過程にあり、変更そのものにはない。
重みの読み書きで、Astraはほかの課題にも挑んだ
同じ記事で、Astraは生の重みだけから、4つの小型ネットワークがそれぞれどのゲームをプレイするために訓練されたかを言い当てた。ツールを使わない1回の回答で方策ネットワークの重みの3.5％を変更し、坂の前で立ち往生していた車を1,024回のテストすべてで成功させた。ゼロから書いたMinAtarのゲームネットワークは、Breakoutで5億ステップ訓練したPPOネットワークを上回った。これらの結果はすべて研究者自身の評価によるもので、第三者による独立した再現はまだ行われていない。公開ログから再構築した編集済みモデルはMATH-500で51.0％を記録し、同じ方向を示しているが、別の再実行であり、記事の数値と直接並べることはできない。
明確な欠陥のあるモデルにしか効かない
対照実験が境界を示している。Gemma 3 270Mはほとんど繰り返しに陥らないため、Astraが何度変更してもMATH-500は6.8％から7.0％〜7.7％の範囲にとどまり、研究者は改善が確立されたとは言えないとしている。Astraは重みだけから、2つのGemmaモデルのどちらがより追従的になるよう訓練されたかも判別できなかった。48.1％は4回中ベストの成績であり、フォワードパス10回では12.3％にすぎない。この研究の価値は、フロンティアモデルがすでに重みそのものに対して狙いを定めた推論駆動の変更を行えることを示した点にある。勾配学習に取って代わったり、任意の大規模モデルを自動で修復したりするには、まだ遠い。
