温度参数是控制大语言模型"输出随机程度"的一个采样参数,藏在多数 AI 对话产品的高级设置和 API 参数里。你平时很少直接看到它,但它决定了模型的回答是严谨收敛,还是天马行空。
理解它的关键只有一句话:模型每生成一个词,其实都是先算出所有候选词的概率分布,再从中"抽"出一个词。温度参数调整的就是这份概率分布的形状——温度调高,分布被拉平,冷门词也有机会被抽中;温度调低,分布变陡峭,模型几乎只选概率最高的词;温度为 0 时,输出趋于确定。
温度改变的是"怎么选词",不是"懂多少"
温度参数工作在解码阶段,它不改变模型的知识和能力,只改变选词策略。所以温度调得再高,模型也不会突然"变聪明";调得再低,也不会让它答出自己不知道的东西。最常见的误解就在这里:温度不是智商旋钮,它是随机性旋钮。
温度和 top-p 不是一回事
很多人把温度和 top-p 混为一谈,其实它们分工不同:温度调整整个概率分布的形状(拉伸或压缩);top-p 则按累积概率截断候选词,只保留概率总和达到 p 的头部词(划定候选范围)。两者可以叠加:先用 top-p 圈出候选池,再用温度决定在池子里选词的随机程度。记住"一个调形状、一个划范围",就不会再混了。
三个最常见的误解
第一个误解是"温度越高,AI 越有创造力"。适度调高温度(比如从 0.7 到 1.2)确实能带来更多样化的表达,但温度过高时,模型会开始语无伦次、胡编乱造——"创造力"变成了"胡说八道"。真正的创造力是多样且连贯,温度只负责多样性这一半。
第二个误解是"温度设为 0 就完全可复现"。温度 0 让采样退化为贪心解码,同一输入下输出高度稳定,但不同硬件、不同推理框架、批量调度等因素仍可能带来细微差异。需要强一致性的场景,温度 0 是必要条件,但不是充分条件。
第三个误解是"日常用默认温度就行,不用管"。这要看场景:写代码、做数学、回答事实性问题时,把温度调低(0 到 0.3)能明显减少"一本正经的胡说";头脑风暴、写文案、编故事时,调高到 0.8 到 1.2 更容易有惊喜。能调这个参数的主要是 API 用户和本地部署用户,网页端聊天产品多半已经固定了。
不同任务,温度可以这样设
实用参考区间(常见范围 0 到 2,模型间略有差异):代码、数学、事实问答用 0 到 0.3,优先准确和可复现;日常对话、总结改写用 0.7 左右,这是多数产品的默认值;头脑风暴、创意写作可以用 0.9 到 1.3,多样性拉满但要人工把关;超过 1.5 只建议实验性尝试,输出质量衰减明显。
温度参数的本质,是在"稳"和"活"之间做取舍。下次觉得 AI 的回答太死板或者太离谱,先看看温度旋钮拧到了哪一档——很多时候问题不在模型,而在这个小小的参数上。