OpenAI API 新增 12 小时 prompt 缓存选项,Codex 与 Work 用户缓存永久保留
摘要
OpenAI 开发者账号宣布 API 现已支持可选的 12 小时 prompt 缓存,持续运行的智能体在请求间隔数小时后仍能以更低缓存输入费率复用指令、工具与上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存永久保留,恢复旧会话可保证命中缓存且无额外惩罚。
OpenAI 在 API 层面为长时运行的智能体场景补上了一项关键能力。开发者账号宣布,API 现已提供可选的 12 小时 prompt 缓存,让持续运行的智能体在两次请求间隔数小时的情况下,依然可以按更低的缓存输入费率复用此前的指令、工具定义与上下文内容。
这一机制针对的是智能体工作流中常见的间歇性调用模式。此前缓存的有效窗口相对有限,请求间隔拉长后往往需要重新写入上下文;而 12 小时的可选缓存意味着跨时段的任务可以延续此前的缓存状态,从而在输入侧控制成本。
在 API 之外,OpenAI 的 Tibo 对 Codex 与 Work 两个产品的缓存策略作了补充说明:已登录用户的缓存将永久保留。用户返回旧对话,或在数小时后恢复会话,均可保证命中缓存,且不附带额外惩罚。
对依赖智能体长时间驻留任务的开发者而言,这两项调整分别覆盖了 API 调用与产品内会话两条路径,缓存复用从短周期扩展到长周期乃至永久保留,直接影响上下文重建的频率与相应的输入开销。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗