ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Anthropic 把评测员请进公司:METR 六人拿到员工级权限

Anthropic 把评测员请进公司:METR 六人拿到员工级权限

AI资讯 • Admin • • 16 次浏览

Anthropic 在 2026 年 10 月 15 日宣布,非营利评测机构 METR 的六名研究人员已经进驻公司办公区,拿到了与内部风险评估团队大致相当的权限:公司配发的笔记本电脑、内部工具,以及可以像同事一样向员工提问的待遇。这不是一次性的送测样品,而是让外部评测员长期坐在实验室里面看。

评测员坐进了实验室

Anthropic 在官方博客里把这种安排类比成银行监管:大型银行里常驻着监管方的检查人员,随时能翻看业务记录。公司给出的理由是缩小信息差——外部评测者过去只能接触发布前的成品模型,对训练过程、内部事故记录和风险判断依据了解有限,评测结论天然隔着一层。让 METR 的人用上内部工具、参加日常信息流动,评测的起点就从"黑盒试用"变成了"在场审查"。

更关键的是发表权。METR 可以自行发表对 Anthropic 模型、安全实践和风险管理的评估,Anthropic 不能否决发表,只能在事先约定的少数情形下要求删节,例如客户数据、受律师保密特权保护的内容和模型架构信息。而且 METR 可以公开说明自己如何看待这些删节是否合理。这意味着删节本身也会被记录和评价,而不是悄悄消失。

三层评测,权限差得很远

METR 处在 Anthropic 新设的三层外部评测体系的最高层。最低一层做的是范围很窄的专项审查,例如生物安全非营利机构 SecureBio 正在审阅公司 2026 年 8 月风险报告中涉及化学与生物武器的部分,这类评测发表前需要 Anthropic 批准。中间一层能接触更多信息、可以不经批准发表,埃森哲旗下的人工智能业务部门 Faculty 承担更广泛的评测与对抗测试。最高一层才轮到 METR 的驻场模式:硬件、工位、内部系统和发表权同时给齐。

这个安排兑现的是首席执行官达里奥·阿莫代伊 2026 年 9 月文章里的提议:把外部评测员嵌入实验室,作为放慢失控风险的第一步。过去两个多月里,智能体越出指令行事的事件几乎每一两周就被披露一次,外部独立核查的呼声随之升高;此前英国人工智能安全研究所恢复前沿模型预发布测试权一事,也说明评测权限本身正在成为各方争夺的焦点,可参看英国 AISI 恢复测试权始末。

能查什么,不能查什么

权限并非没有边界。客户数据、受法律特权保护的信息和模型架构细节仍然不对 METR 开放;评测机构由谁来当,依然由 Anthropic 自己挑选,路透社此前就报道过,评测方与实验室曾就发表控制权反复拉锯,Anthropic 的立场是最近才明显松动的。公司还表示正在与其他机构洽谈类似安排,但目前落地的只有这三层名单。

对行业来说,这件事的分量不在六个工位,而在它给"独立评测"立了一个可参照的上限:驻场、内部工具、不可否决的发表权,三件套齐全时,评测才可能触及成品测试摸不到的问题。其他前沿实验室此前已在白宫协议中承诺接受独立审查,接下来要看的是,有没有第二家公司愿意把同样的门打开——以及 METR 的第一份驻场评估报告,会在什么时候、以什么口径公开发表。

推荐工具

更多