基准污染是指评测用的题目或答案,在模型训练前就已经混进了训练数据。模型不是现场解题,而是凭记忆作答,分数看起来很高,却不能证明它真的掌握了这项能力。
污染是怎么发生的
最常见的一种,是训练语料直接收录了公开评测集。评测题一旦公开发布,就可能被爬虫抓进网页、论文、代码仓库和问答帖,再随大批量语料一起喂给模型。第二种是间接泄露:题目被改写、翻译、拆成讨论帖,答案藏在解析文章里,模型记住的是同一道题的另一种说法。第三种发生在评测环节:同一批题目被反复用来调参、选模型,分数慢慢被“调”了上去,评测集失去了裁判作用。
分数虚高,不代表能力虚假
基准污染最容易被误读成“模型在作弊”。多数情况下,污染是数据管线的问题,不是模型故意背题。真正的问题在于,分数的含义变了:它衡量的不再是泛化能力,而是记忆覆盖面。一个在某套数学题上得分很高的模型,换一套新出、没公开过的同类题目,成绩可能明显回落。反过来,分数不高也不等于模型没用,有些能力强的模型只是没见过那套题的出题风格。
看分数时先问四个问题
一是题目新不新:评测集是否最近才发布、是否与训练数据做了去重。二是评测方式透不透明:有没有说明去重方法、是否公开了污染检测结果。三是有没有多套证据:同一能力是否在不同来源、不同形式的评测里都表现稳定。四是看实际任务:把模型放进真实工作流试一小段,观察它在没见过的数据上的表现,这比只看榜单更可靠。
两个常见误解
误解之一,是把“刷榜”和“污染”划等号。针对评测格式做优化、选最适合的提示词,属于合规的应试技巧;只有训练数据里混入评测内容,才算污染。误解之二是以为开源模型才有这个问题。闭源模型同样要面对公开语料里的评测题,区别只在于外界更难核查它的训练数据。读模型发布消息时,分数永远要和评测方法一起看,单独一个数字说明不了太多。