OpenAI Decisions API 在 10 月 22 日正式上线(GA),基于 GPT-6 Luna,专为“有界答案”的小决策设计。OpenAI 在官方公告中写道,应用和智能体在工作流里会做大量微小决策:给输入打标签、决定请求走哪条路由、下一步执行哪个动作——单个都不复杂,但规模一大,延迟和成本就都压不住了。
Decisions API 把这类判断抽成一条独立快通道。开发者先定义问题和允许的答案,再把文本、图片或原生 JSON 上下文传进去,接口返回三种答案之一:predicate 给出条件成立的概率(0 到 1,比如产品图里有没有可见破损);choice 从预定义选项里选一个(如继续、重试或请求澄清),同时附带概率和置信度;score 按有序量表打分,返回等级下标的概率加权平均(比如损伤严重程度)。官方给出的关键数字是:比通过 Responses API 调用 GPT-6 Luna 快 10 倍。
这次 GA 相对公开测试补了不少能力:原生接入 GPT-Live,可以在实时语音会话里做快速判断——客服智能体决定要不要追问、要不要转人工,虚拟形象甚至可以根据用户的话实时换表情;复用上下文支持提示缓存;推理可在美国和欧盟驻留;单次请求最多可问 400 个问题,是此前的两倍;亚洲多地也增加了容量。
定价同样冲着“高频小决策”去:每百万输入 token 0.10 美元,缓存输入每百万 0.01 美元,只收输入费用、不收输出 token 费用,另有 30 分钟和 12 小时两种缓存写入选项。符合条件的客户还可用 Zero Data Retention。
三层直接影响
智能体真正跑起来之后,瓶颈往往不在“最聪明的一步”,而在成千上万次的中间判断。过去开发者要么为每个小判断单独调一次大模型、忍受延迟和账单,要么自己训小分类器、承担维护成本。Decisions API 等于 OpenAI 官方把“判断”做成了一种基础设施:答案空间被锁死,模型不用组织语言,延迟和成本自然下来。
对开发者的直接影响有三层:第一,已有 Responses API 工作流里的大量分类、路由、仲裁逻辑,可以平滑迁移到更便宜的快通道;第二,实时语音这类对延迟极度敏感的场景(客服、虚拟形象)第一次有了官方的“边说边判”方案;第三,定价只收输入、不收输出,意味着高频调用的账单模型变得可预测——这正是智能体规模化最怕的不确定性。
需要留意的是边界:它只回答有界问题,开放式生成、长推理依然要走常规模型接口。把它当成智能体里的“反射弧”,而不是“大脑”,才是正确的用法。