首字延迟指的是你按下发送之后、模型吐出第一个字之前的那段等待，英文常缩写为 TTFT（Time To First Token）。它决定了你对一个 AI 产品“快不快”的第一印象：有的产品点完发送要愣三四秒才开始出字，有的几乎立刻往外蹦，差别往往就出在这段时间里，而不是模型本身写得慢。
第一个字出现之前，模型在忙什么
很多人以为模型是一个字一个字从头算到尾，其实开头有一道集中处理工序：系统要先把你的问题、连同前面的对话和附件一起读完，算清每个词和上下文的关系，再排队等到计算资源，这一整步做完，才轮到第一个字出场。这一步的负担和输入长度直接挂钩——你贴进去的资料越长、对话历史越厚，模型“读题”的时间就越久，哪怕你最后只问了一句很短的话。
首字延迟和吐字速度，是两笔不同的账
第一个字出来之后，模型才进入逐个往外生成的阶段，这个阶段看的是每秒能吐多少字。于是会出现几种很有意思的组合：有的模型首字很快、后面越写越慢，长答案要等很久；有的首字等了几秒，后面却像开了闸一样刷屏，整体完成时间反而更短。只看“多久开始出字”就给一个产品判快慢，经常会判错——短问答主要看首字延迟，长文档、长报告这类任务，总完成时间才是大头。
哪些情况会把首字延迟明显拉长
第一种是上下文太长：上传几十页文档、把整段代码贴进去，模型光读完就要花掉可观的时间。第二种是推理模型：它在开口之前会先进行一段内部思考，思考的量越大，等待越久，这也是深度思考模式普遍“起步慢”的原因。第三种是高峰期排队和冷启动，同一款产品在晚高峰明显比凌晨迟钝，多半不是模型变了，而是前面排了太多请求。
两个最常见的误解
误解一：首字快就等于模型强。首字延迟主要反映调度和输入处理，和回答质量没有直接关系，小模型往往起步更快，但答得浅。误解二：等得久就是卡死了。如果界面显示模型正在思考、或你刚传了大文件，多等一会儿通常是正常处理；只有长时间毫无变化、刷新后也一样，才更像是连接或服务出了问题。
实际使用时怎么判断
挑产品或排查“为什么这么慢”时，把两段时间分开看：从发送到出第一个字是首字延迟，从出字到全文结束是生成耗时。前者太长，先缩短上下文、拆掉不必要的附件，或换到非高峰时段；后者太长，再考虑换吐字更快的模型。这样拆开看，慢到底慢在哪一步，基本就清楚了。
