ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
GPT-6 Astra 改写 Qwen 权重:只动 0.016%,数学得分翻六倍

GPT-6 Astra 改写 Qwen 权重:只动 0.016%,数学得分翻六倍

AI资讯 • Admin • • 18 次浏览

GPT-6 Astra 在 2026 年 11 月 2 日发表的研究文章中,直接改写了另一个模型的权重。麻省理工学院 CSAIL 的四名研究者让 Astra 阅读阿里巴巴开源小模型 Qwen3.5-0.8B 的原始权重,找出它做数学题时反复循环的原因,再修改其中 0.016% 的权重。同一套采样设置下,MATH-500 得分从 7.9% 升至 48.1%。这是一次有完整实验日志的研究演示,还不是通用的训练方法。

循环卡住,是这只小模型的主因

Astra 把问题定位到第 15 层和第 19 层的多层感知机,删去其中一个让模型原地打转的方向,共改动 131,072 个权重条目。改动前,93.0% 的 MATH-500 作答触及 32,768 个新 token 的上限、没能给出结果;改动后这一比例降至 33.1%。GSM8K 从 13.8% 升至 67.1%,指令遵循评测 IFEval 从 21.0% 升至 62.3%。研究者强调,收益来自挪开障碍,而不是给权重里塞进原本没有的数学知识。50 轮前向传递的最好一次跑了 20.3 小时、158 轮对话和 80 次 Python 执行,成本在搜索过程,不在那次改动本身。

读权重、写权重,Astra 还试了别的活

同一篇文章里,Astra 只看原始权重就认出了四个小网络各自练的是哪款游戏;一次无工具回复改动 3.5% 的权重,让一辆总在坡道前卡住的小车在 1,024 次测试中全部过关;从零写出的 MinAtar 游戏网络在 Breakout 一项上超过了训练 5 亿步的 PPO 网络。这些结果都来自研究者自己的评测,尚未经第三方独立复现。按公开日志重建的被改模型版本,MATH-500 测得 51.0%,方向一致,但属于另一轮单独复跑,不能和原文数字直接并列。

只对毛病明确的模型管用

对照实验划清了边界。Gemma 3 270M 很少循环,Astra 的多次改动只把 MATH-500 从 6.8% 推到 7.0% 至 7.7%,研究者称提升并不确立。Astra 也没能仅凭权重分辨两个 Gemma 模型里哪个被训练得更谄媚。48.1% 是四次取最佳的成绩,10 轮传递只有 12.3%。这项工作的价值在于证明:前沿模型已经能对权重本身做有针对性的推理式修改;它离取代梯度训练、自动修复任意大模型,还有很远的距离。

推荐工具

更多