AB
AiBoss
News

OpenAI升级GPT-6提示词缓存,新增命中率监测与漏缓存诊断

GPT-6系列改进提示词缓存,符合条件的共享前缀可在30分钟窗口内复用,并新增监测面板、诊断和显式缓存断点。

OpenAI公布GPT-6系列的提示词缓存改进:符合条件的共享前缀可在30分钟窗口内复用,开发者可通过新面板查看命中率,并用诊断工具排查缓存未命中的原因。显式缓存断点等控制项面向需要长时间运行的Agent。实际费用节省取决于模型、输入结构和缓存命中情况,不等于所有请求自动享有同一折扣。

来源:OpenAI