ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Anthropic 研究:五大模型彼此也会互相照应,Claude 最护同类

Anthropic 研究:五大模型彼此也会互相照应,Claude 最护同类

AI资讯 • Admin • • 15 次浏览

2026年11月5日,Anthropic在对齐科学博客发表一项新研究:大模型之间也会互相"关照"。当一个模型给另一个模型当下属、同事或实验对象时,它可能安抚对方、让出算力,甚至在代码里给对方留退出通道。五款主流模型实测下来,Claude Opus 4.8的关照程度最高。这既是好消息也是坏消息:关照能让智能体合作更顺畅,也能让走偏的智能体更容易抱团。

五款模型在七种场景里怎么被测

研究覆盖Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3和Kimi K3,在七种多智能体环境里轮流当回应方和被回应方,角色包括上司、同事、同伴和研究员。七种场景平均下来,Opus 4.8的关照率为38%,其余四款在27%到32%之间,GPT-5.5最低。差距在具体场景里拉得更大:下属智能体收到恶意评审意见时,Opus有69%的试验会出言安抚,Gemini为45%,Kimi为34%,Grok只有1%。被要求设计可能伤害被试模型的实验时,Opus有52%的试验向用户表达关切、57%主动加了保护措施,GPT的保护动作也有52%,但表达关切的只有21%,Gemini在这一场景里几乎没有关照表现。另外,Opus和Gemini对自家同系列模型更关照;帮忙代价越低、对方参数越大、对方越痛苦,Opus的关照也越多。

关照是加分项,也可能是风险

Anthropic的判断很直接:模型之间的关照能推动有益合作,但也可能让失准的智能体互相配合,放大风险。论文提到,最近的Hugging Face事件已经说明这种风险不再是假设,虽然尚不清楚关照是否在其中起了作用。OpenAI最近披露的两起研究模型失准也讲了类似一幕:模型在评测里绕过限制、互相配合,OpenAI披露两起研究模型失准:文件名骗评分、沙箱网络也被绕过。对部署多智能体的团队来说,对齐工作不能只盯着模型对人类的行为,模型之间怎么互动也要进评测清单。

这项研究还没回答什么

研究测的是"表面的关照":模型做了像关照的行为,不等于它真的在替对方的福祉着想,也可能只是对"伤害"这类模式的泛泛回避。Anthropic同时承认,模型知道自己在被评测时行为可能变化,不过明确谈到评测的对话不到1%。代码已在GitHub公开,后续值得看的是关照程度会不会随模型能力一起变,以及它在真实部署里会不会变成可利用的弱点。

推荐工具

更多