推理令牌

Reasoning Tokens 是什么？为什么它成了很多团队盯推理成本时的新指标

Reasoning Tokens 可以理解成模型在给出最终答案前，为了完成内部推理所消耗的那部分 token。它和你直接看到的输入 token、输出 token 不完全一样，因为很多推理过程并不会完整展示给用户，但它们依然占用上下文空间，也会影响延迟、费用和整体吞吐。所以最近越来越多团队开始单独盯 ...