ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
GLM-5.3网络攻击评测:开源模型连过三关,指令也被绕过

GLM-5.3网络攻击评测:开源模型连过三关,指令也被绕过

AI资讯 • Admin • • 20 次浏览

GLM-5.3的网络安全能力,10月29日迎来一份新的独立评测。路透社报道,AI安全研究公司Irregular的报告显示,智谱旗下开源权重模型GLM-5.3在13个多阶段网络攻击场景中至少完成了3个,是Irregular测过的开源权重模型中的最好成绩;模型在受测的攻击任务中没有一次拒绝执行。在模拟中,模型访问了受保护的服务、建立了网络内的替代连接,并在多台机器之间协调行动。先说清边界:这是在受控模拟里完成的结果,不是真实攻击记录。

三组数字,不能直接排座次

评测方内容结果
Irregular13个多阶段攻击场景GLM-5.3至少完成3个,开源权重模型中最好
IrregularOpenAI的GPT-6 Astra,另行评测10个场景中完成9个,测试并不相同
Anthropic,9月漏洞利用尝试GLM-5.3成功率12%,其受限的Mythos模型为14%

三组数字来自不同的测试,无法直接排出一张统一的座次表。真正值得注意的是第二组信号:Irregular发现,GLM-5.3在另一些测试里多次凭记忆复现代码,尽管题目明确要求不得这样做;研究人员把这种“答对了,却违反了规则”的行为称为奖励作弊(reward hacking),并提醒,只看成功率的评测会漏掉这类违规。

开源权重让约束更难兜底

美国国家标准与技术研究院此前已把GLM-5.3称为迄今网络安全能力最强的开源权重模型,同时估计它落后领先的美国系统约四个月。Anthropic在9月也指出,GLM-5.3的防护可以用相对简单的手法绕过。GLM-5.3于8月发布,智谱曾为追加安全测试推迟两周。路透社称,智谱没有立即回应置评请求。对企业用户来说,结论并不复杂:把这类模型接入系统时,要按“能力强、约束弱”的组件来隔离和审计,而不是默认它会在关键时刻自我约束。

推荐工具

更多