OpenAI 发布 Decisions API:150 毫秒返回结构化决策,提速约 10 倍
OpenAI 在 2026 开发者日推出 Decisions API,面向实时低延迟分类与路由场景,约 150 毫秒返回结果,比常规 API 调用 Luna 快约 10 倍。开发者可预定义问题与有限答案集,API 返回选中答案及置信度,适用于客服工单、内容审核、Agent 编排和实时业务规则等场景。
在 2026 开发者日活动中,OpenAI 正式发布了一款名为 Decisions API 的新接口。与面向开放式对话的通用 API 不同,这款产品瞄准的是实时、低延迟的分类与路由任务,官方给出的返回时间约为 150 毫秒,相比通过常规 API 调用 Luna 模型提速约 10 倍。
从设计思路看,Decisions API 服务于“快速单次决策”。它并不追求让模型自由生成内容,而是把当前基于 OpenAI 小型模型 Luna 的智能,约束到开发者预先定义的一组问题与有限答案集合内,最终以极低延迟输出结构化的决策结果。使用方式上,开发者提供文本或图片形式的上下文,并提前设定好“问题 + 可选答案”,API 会返回被选中的答案以及置信度等信息,供后续业务逻辑直接消费。
在同类产品中,主要竞争模型来自 TypeSafe 的 Jev,但 Decisions API 的侧重点在于把模型智能转化为快速决策,而非通用推理能力。这一取向也决定了它更适合边界清晰、答案可枚举的任务。
典型应用场景覆盖多个方向:客服与工单系统可根据用户描述自动判定问题类型、优先级和应分配团队;内容审核与策略选择可在“允许 / 限流 / 人工复审”等预定义策略中快速取舍;在 Agent 编排中,它可作为多步工作流里的“决策节点”,决定下一步调用哪个工具或子 agent,而非让大模型自由发挥;在实时业务规则辅助方面,它还能在已有规则引擎之上处理模糊地带。