快讯 23:57鸿蒙装机量逼近9500万台,余承东此前预计冬季破亿23:55字节阿里腾讯下单超350亿美元RTX PRO 5500,英伟达产能难覆盖23:52华为披露Wi-Fi 7+端到端芯片方案:凌霄760系列实现动态窄频宽与真双频并发 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期三 · 10-21 09:10 约 1 分钟读完

OpenAI API 新增 12 小时 prompt 缓存选项,Codex 与 Work 用户缓存永久保留

摘要

OpenAI 开发者账号宣布 API 现已支持可选的 12 小时 prompt 缓存,持续运行的智能体在请求间隔数小时后仍能以更低缓存输入费率复用指令、工具与上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存永久保留,恢复旧会话可保证命中缓存且无额外惩罚。

OpenAI 在 API 层面为长时运行的智能体场景补上了一项关键能力。开发者账号宣布,API 现已提供可选的 12 小时 prompt 缓存,让持续运行的智能体在两次请求间隔数小时的情况下,依然可以按更低的缓存输入费率复用此前的指令、工具定义与上下文内容。

这一机制针对的是智能体工作流中常见的间歇性调用模式。此前缓存的有效窗口相对有限,请求间隔拉长后往往需要重新写入上下文;而 12 小时的可选缓存意味着跨时段的任务可以延续此前的缓存状态,从而在输入侧控制成本。

在 API 之外,OpenAI 的 Tibo 对 Codex 与 Work 两个产品的缓存策略作了补充说明:已登录用户的缓存将永久保留。用户返回旧对话,或在数小时后恢复会话,均可保证命中缓存,且不附带额外惩罚。

对依赖智能体长时间驻留任务的开发者而言,这两项调整分别覆盖了 API 调用与产品内会话两条路径,缓存复用从短周期扩展到长周期乃至永久保留,直接影响上下文重建的频率与相应的输入开销。

OpenAIprompt 缓存APICodex
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
17
完整版提示词