AWS 博客：Amazon Bedrock 上 OpenAI 模型的提示缓存模式

核心事实

AWS 官方博客发布技术文章，介绍在 Amazon Bedrock 上调用 OpenAI 模型时，面向 AI 代理工作负载的提示缓存（prompt caching）用法。文章称，代理每执行一步都要把工具定义、指令、历史工具调用与结果重新发送给模型，模型本身在请求之间没有记忆，因此重复的输入会被反复计费。提示缓存会保存输入提示对应的键值状态，后续请求若以相同文本开头，可直接加载已保存状态，只处理新增内容。文章区分两种模式：隐式缓存由 Amazon Bedrock 自行决定可复用前缀的结束位置；显式缓存由代码通过 prompt_cache_breakpoint 标记边界，并建议两者结合使用。

背景与影响

文章以电影《土拨鼠之日》作比，说明代理在多轮会话中反复重读同一段上下文的问题，并指出缓存可降低输入成本、提升响应一致性。文中示例使用 prompt_cache_key 标识共享同一缓存的请求，并给出显式缓存与隐式缓存的代码片段。作者称在其一项显式缓存测试中，约 4,000 token 的工具与指令前缀在首次请求写入 4,120 token，后续请求读取同样的 4,120 token。文章还提到，可复用前缀需达到 1,024 token 才符合条件，缓存仅在传入完全相同文本时生效，因此指令与工具列表需保持一致的序列化方式，日期、用户名、请求 ID 等变化内容应放在缓存边界之后。

限制与来源

上述 token 数字来自文章自述的单次测试，并非通用性能承诺；缓存是否可用、计费方式、TTL 选项及模型支持范围，均以 Amazon Bedrock 与相关模型提供方的官方文档当前信息为准。文章示例中的模型标识与参数仅为演示，不代表任何地区可用性或定价。本文为技术说明，不构成投资或采购建议。来源：aws.amazon.com 博客文章《Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock》，作者 Claudio Mazzoni，发布于 2026 年 10 月 26 日。