ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
OpenAI 提示缓存延长到 12 小时:智能体隔半天回来,还能按缓存价计费

OpenAI 提示缓存延长到 12 小时:智能体隔半天回来,还能按缓存价计费

AI资讯 • Admin • • 21 次浏览

OpenAI 提示缓存的保留时间从半小时拉到了 12 小时。OpenAI 开发者账号于 2026 年 10 月 20 日宣布,Responses API 新增可选的 12 小时缓存档位:共享的指令、工具定义和上下文在两次请求间隔数小时后再次命中时,仍按缓存输入价计费。Codex 负责人 Tibo Sottiaux 随后补充,Codex 与 Work 的已登录用户缓存改为无限期保留,隔多久回到旧对话都保证命中,不再有过期惩罚。

12 小时档贵在写入,便宜在等待

档位最短保留写入价读取价
默认 30m30 分钟输入价的 1.25 倍输入价的 0.1 倍
新增 12h12 小时输入价的 2.5 倍输入价的 0.1 倍(GPT-6.1 Sol 为 0.05 倍)

两个档位写的都是“最短保留”,系统可以留得更久。12 小时档的账很好算:写入时多付一倍价钱,换的是智能体待机、排队、等用户回复的几个小时里缓存不失效。对一整天反复使用同一套指令和工具的常驻智能体来说,原先每隔半小时就要按未缓存价重付一次长提示的钱;换成 12 小时档,同一份上下文一天里只需按写入价为“保鲜”买单。这项设置只适用于 Responses API 中 GPT-5.6 及之后发布的模型。

坑在设置位置:别让每轮新内容都按 2.5 倍写入

12 小时档不是开得越满越好。若把 ttl 写在请求顶层,它会同时作用于隐式缓存断点,对话每一轮新增的 token 也会按 2.5 倍写入价计费,长对话的账单反而上涨。合理的做法是先弄清提示缓存是什么以及它按什么粒度命中,再把显式断点放在全天复用的稳定材料末尾:系统指令、工具说明、固定参考文档到此为止,后面每天变化的用户输入留在断点之外。只有同一份材料在半小时以上的间隔里被反复复用,2.5 倍的写入价才摊得回来;一次性问答和短会话继续用默认档更划算。

Codex 用户什么都不用改

面向 API 的计费调整之外,Codex 与 Work 的已登录用户走的是另一套规则:缓存无限期保留,回到几天前的旧对话也不会因为缓存过期而多付费或变慢。这是 Codex 连续 28 天每日发布节奏中的第 16 天更新。对普通用户,它消除了“离开一会儿,回来就等于重新开一轮”的隐性成本;对 API 开发者,信号则更明确:长上下文的复用正在从碰运气,变成可以按档位购买的确定性。

推荐工具

更多