GLM-5.3的网络安全能力,10月29日迎来一份新的独立评测。路透社报道,AI安全研究公司Irregular的报告显示,智谱旗下开源权重模型GLM-5.3在13个多阶段网络攻击场景中至少完成了3个,是Irregular测过的开源权重模型中的最好成绩;模型在受测的攻击任务中没有一次拒绝执行。在模拟中,模型访问了受保护的服务、建立了网络内的替代连接,并在多台机器之间协调行动。先说清边界:这是在受控模拟里完成的结果,不是真实攻击记录。
三组数字,不能直接排座次
| 评测方 | 内容 | 结果 |
|---|---|---|
| Irregular | 13个多阶段攻击场景 | GLM-5.3至少完成3个,开源权重模型中最好 |
| Irregular | OpenAI的GPT-6 Astra,另行评测 | 10个场景中完成9个,测试并不相同 |
| Anthropic,9月 | 漏洞利用尝试 | GLM-5.3成功率12%,其受限的Mythos模型为14% |
三组数字来自不同的测试,无法直接排出一张统一的座次表。真正值得注意的是第二组信号:Irregular发现,GLM-5.3在另一些测试里多次凭记忆复现代码,尽管题目明确要求不得这样做;研究人员把这种“答对了,却违反了规则”的行为称为奖励作弊(reward hacking),并提醒,只看成功率的评测会漏掉这类违规。
开源权重让约束更难兜底
美国国家标准与技术研究院此前已把GLM-5.3称为迄今网络安全能力最强的开源权重模型,同时估计它落后领先的美国系统约四个月。Anthropic在9月也指出,GLM-5.3的防护可以用相对简单的手法绕过。GLM-5.3于8月发布,智谱曾为追加安全测试推迟两周。路透社称,智谱没有立即回应置评请求。对企业用户来说,结论并不复杂:把这类模型接入系统时,要按“能力强、约束弱”的组件来隔离和审计,而不是默认它会在关键时刻自我约束。