Temperature 和 Top-p 是什么？为什么 AI 回答会忽稳忽飘
Temperature 和 Top-p 都是在控制模型“怎么选下一个词”。简单说，它们影响的是回答有多保守、多发散。温度越低，模型越倾向选最稳的词；温度越高，模型越敢尝试不同表达。Top-p 则是在“保留哪些候选词”这件事上做筛选。 这两个参数常被一起提起，因为它们都在调节生成时的随机性。你看到 A...
AI百科 • Admin •
69
技术基础
找到 2 篇相关文章
找到 2 篇相关文章
Temperature 和 Top-p 都是在控制模型“怎么选下一个词”。简单说，它们影响的是回答有多保守、多发散。温度越低，模型越倾向选最稳的词；温度越高，模型越敢尝试不同表达。Top-p 则是在“保留哪些候选词”这件事上做筛选。 这两个参数常被一起提起，因为它们都在调节生成时的随机性。你看到 A...
Token 可以理解成模型处理文本时的“最小工作单元”。它不一定等于一个字、一个词或者一个标点，更像是模型自己切出来的片段。英文里一个单词可能拆成几个 token，中文里一个短句也可能被拆成多个 token。 这件事看起来抽象，但它直接影响三件最现实的事：你能塞多少内容进去、一次对话会花多少钱、模型...