AB
AiBoss
ニュース

OpenAI API 新增 12 小时提示缓存选项

OpenAI 在 Responses API 中加入可选的 12 小时提示缓存,适合跨数小时复用稳定指令与上下文;缓存写入费率高于默认 30 分钟方案。

OpenAI 10 月 20 日更新 API:在支持该能力的模型上,开发者可为 Responses API 设置 prompt_cache_options.ttl="12h",让稳定的提示前缀获得至少 12 小时的缓存有效期。默认选项仍是 30 分钟。

官方文档注明,12 小时缓存写入按未缓存输入 token 费率的 2.5 倍计费,30 分钟选项为 1.25 倍;两者缓存读取费率相同。较长寿命适合间隔数小时仍会重复使用的共享指令或参考资料,并不保证每次请求都能命中缓存。详见 OpenAI API 更新日志及提示缓存文档。