AB
AiBoss
News

Vercel AI Gateway 日志新增会话亲和视图

Vercel 在 AI Gateway 日志中新增 Sessions 视图,按会话聚合请求并展示会话亲和如何路由每一次调用,同时提供缓存命中率、成本与所用模型、供应商等信息。

核心事实

Vercel 于 2026 年 10 月 17 日发布更新,AI Gateway 日志新增 Sessions 视图,把请求按会话分组,并展示会话亲和(session affinity)如何路由每一次请求。据该更新说明,每一行会显示运行该会话的编码代理或应用(例如 Claude Code、Codex、Cursor),以及成本、所用模型、供应商,还有各轮对话中输入被缓存的比例。打开单个会话后,可查看缓存命中率、时长和路径;路径会列出每一轮使用的模型与耗时,并标明当前为该会话提供服务的供应商以及此前用过的供应商。

背景与影响

据 Vercel 说明,会话亲和会把每一轮请求发送给上一轮提供服务的同一供应商,使该供应商的缓存中已存有大部分提示词,因此始终留在同一供应商的会话能从缓存中读取更多提示词内容。该功能默认对文本与聊天请求生效。用户也可自行分组:在对话的每个请求中通过 providerOptions.gateway 传入相同的 sessionId,或使用相同的 x-session-id 请求头;未提供标识的请求会按对话开头内容的指纹分组,并显示为带指纹的会话。会话可按轮数、客户端、模型、供应商、认证方式或成本筛选,单轮会话在清除最小轮数筛选前默认隐藏。

限制与来源

上述信息来自 Vercel 官方更新页面,具体功能行为、可用范围与计费方式以 Vercel 官网当前说明为准。本文未对性能提升幅度或缓存命中率作任何实测,相关细节可参阅 Vercel 关于会话亲和的文档。