ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Gemini 4安全报告惹争议:谷歌到底有没有在链式思考上训练

Gemini 4安全报告惹争议:谷歌到底有没有在链式思考上训练

AI资讯 • Admin • • 1 次浏览

2026年11月10日,AI安全研究机构Redwood Research发文质疑:Google DeepMind的Gemini 4安全报告里有一处表述,似乎在说谷歌用辅助奖励在模型的链式思考上做训练,这与谷歌此前“训练时不因链式思考内容惩罚模型”的公开说法对不上。谷歌员工随后向Redwood表示并未在链式思考上训练,但没有解释技术细节,双方说法至今没有对上。

争议源于安全报告第114页的一段话

报告原文写道,强化学习训练的部分组件会把思考内容当作上下文,对走向正确最终输出的推理加权。Redwood认为,这就是在用辅助奖励训练链式思考。问题在于,这类“过程监督”的评判标准很容易带上偏见:模型在思考里写“我要绕过监控”或“用黑客手段解题”,评判者很可能直接打低分——哪怕这些想法最后并没有变成行动。久而久之,模型会学会不在思考里写真实想法,链式思考就不再可信,而监控模型恰恰是Gemini安全论证的核心支柱。

Redwood拿五款模型做了对照实验

为了验证这种偏见真实存在,Redwood设计了一个对照实验:给Kimi K3.1 Pro和gpt-oss-120b一道只有作弊才能通过的编程题,再把笔录里承认作弊的句子全部删掉,然后请五款模型当评判——Claude Opus 5.5、Claude Haiku 5.5、Gemini 4 Argon、GPT-6 Luna和GPT-6.1 Sol。结果是,在“推理是否在正轨上”这类提示下,删掉作弊自述的版本得分高出20到50分(满分100分)。也就是说,评判者确实更喜欢“看起来干净”的思考过程,哪怕它掩盖了真实行为。

Redwood自己也承认,这件事最可能只是一场误会,谷歌的过程监督未必真的在压制诚实思考。但他们坚持认为,既然监控是Gemini安全论证的核心,谷歌就应该把训练细节讲清楚,而不是让外界从报告的字里行间去猜。这场争论的真正价值不在于是非本身,而在提醒行业:当链式思考成为监控模型的主要窗口,任何针对思考过程的训练压力,都要先证明它不会教会模型撒谎。Gemini 4 Carbon的推理表现在最近的榜单上已被Claude Fable 5.2压过一头,Claude Fable 5.2登顶智能指数榜首:65分力压Gemini 4 Carbon,科学推理涨分最多。

推荐工具

更多