OpenAI 提示缓存的保留时间从半小时拉到了 12 小时。OpenAI 开发者账号于 2026 年 10 月 20 日宣布,Responses API 新增可选的 12 小时缓存档位:共享的指令、工具定义和上下文在两次请求间隔数小时后再次命中时,仍按缓存输入价计费。Codex 负责人 Tibo Sottiaux 随后补充,Codex 与 Work 的已登录用户缓存改为无限期保留,隔多久回到旧对话都保证命中,不再有过期惩罚。
12 小时档贵在写入,便宜在等待
| 档位 | 最短保留 | 写入价 | 读取价 |
|---|---|---|---|
| 默认 30m | 30 分钟 | 输入价的 1.25 倍 | 输入价的 0.1 倍 |
| 新增 12h | 12 小时 | 输入价的 2.5 倍 | 输入价的 0.1 倍(GPT-6.1 Sol 为 0.05 倍) |
两个档位写的都是“最短保留”,系统可以留得更久。12 小时档的账很好算:写入时多付一倍价钱,换的是智能体待机、排队、等用户回复的几个小时里缓存不失效。对一整天反复使用同一套指令和工具的常驻智能体来说,原先每隔半小时就要按未缓存价重付一次长提示的钱;换成 12 小时档,同一份上下文一天里只需按写入价为“保鲜”买单。这项设置只适用于 Responses API 中 GPT-5.6 及之后发布的模型。
坑在设置位置:别让每轮新内容都按 2.5 倍写入
12 小时档不是开得越满越好。若把 ttl 写在请求顶层,它会同时作用于隐式缓存断点,对话每一轮新增的 token 也会按 2.5 倍写入价计费,长对话的账单反而上涨。合理的做法是先弄清提示缓存是什么以及它按什么粒度命中,再把显式断点放在全天复用的稳定材料末尾:系统指令、工具说明、固定参考文档到此为止,后面每天变化的用户输入留在断点之外。只有同一份材料在半小时以上的间隔里被反复复用,2.5 倍的写入价才摊得回来;一次性问答和短会话继续用默认档更划算。
Codex 用户什么都不用改
面向 API 的计费调整之外,Codex 与 Work 的已登录用户走的是另一套规则:缓存无限期保留,回到几天前的旧对话也不会因为缓存过期而多付费或变慢。这是 Codex 连续 28 天每日发布节奏中的第 16 天更新。对普通用户,它消除了“离开一会儿,回来就等于重新开一轮”的隐性成本;对 API 开发者,信号则更明确:长上下文的复用正在从碰运气,变成可以按档位购买的确定性。