AB
AiBoss
ニュース

Vercel AI Gateway 推出虚拟模型:改模型无需改代码

Vercel 为 AI Gateway 引入 Virtual Models,用单一虚拟模型 ID 抽象模型与配置,切换模型、设置回退与零数据保留可在控制台完成,应用无需改代码或重新部署。

核心事实

Vercel 于 2026 年 10 月 28 日发布博客,宣布在 AI Gateway 上推出 Virtual Models(虚拟模型)。据其介绍,虚拟模型是对应用与开发者所用「模型字符串及配置」的一层抽象:用户为某个任务创建一个虚拟模型 ID(例如 vmc/coding-agent),并在 AI Gateway 中配置其背后的模型、回退与优先级、零数据保留(Zero Data Retention)等设置;此后凡使用该 ID 的地方都会套用这套配置。更改 ID 背后的模型与设置后,调用方会在数分钟内自动采用新配置,无需修改代码或重新部署。虚拟模型可在团队控制台或通过 Vercel CLI 创建。

背景与影响

Vercel 称,过去 90 天内 AI Gateway 上新增了来自 10 多个实验室的 125 个模型,约合每周 10 个。此前切换模型虽只需改一行代码,但该行位于代码中,通常仍意味着重新部署。虚拟模型把模型选择与配置上移到网关层,并按任务区分:例如工单分诊可用低成本模型,合同审阅可用推理能力更强的模型。Vercel 还表示,虚拟模型上的设置优先于请求中的同名设置,调用方无法覆盖提供方顺序、回退或服务等级;若虚拟模型要求零数据保留,即使请求显式关闭也会被强制执行。团队角色可控制谁有权修改虚拟模型。

限制与来源

Vercel 提示,提供方选项按提供方生效,切换提供方时应重新检查;对承载生产流量的虚拟模型,建议先另建一个候选虚拟模型指向新模型并运行评测,质量下降时可切回原模型。上述功能细节、可用范围与计费方式以 Vercel 官网及文档当前信息为准。本文信息来自 Vercel 官方博客,未包含独立实测数据。