Vercel AI Gateway 新增基于置信度的决策回退机制
Vercel 在 AI Gateway 中引入基于置信度的决策回退：当主模型的回答触发用户设定的置信度条件时，请求可升级到备用模型，条件支持组合，目前处于 beta 阶段。
核心事实
Vercel 在其更新日志中宣布，AI Gateway 现在支持基于置信度的决策回退（confidence-based decision fallbacks）。当主模型的回答触发开发者自行设定的置信度条件时，系统可以把该决策请求升级到备用模型处理。据 Vercel 介绍，多个条件可以组合使用，因此一次升级可以同时依赖多个信号。
该功能通过向 providerOptions.gateway.models 添加一个条件对象来配置。官方示例中使用了 confidenceBelow: 0.6 这样的条件，并指定备用模型名称。若不添加该对象，请求保持原有行为。
背景与影响
Vercel 表示，开发者此前在 models 中列出的普通模型名称仍会继续捕获明确的错误，因此现有回退逻辑不受影响。置信度条件覆盖 Choice 和 Score 两类问题；Boolean 类型的问题则改为按概率区间触发升级。如果省略 question 字段，条件会作用于所有匹配类型的问题，例如 { confidenceBelow: 0.6 } 会在任意 Choice 或 Score 回答低于 0.6 时触发升级。
Vercel 同时提示，被触发的回退会执行第二次决策，因此两个阶段都会计费。该功能目前处于 beta 阶段，具体行为与可用性请以官方文档和官网当前信息为准。
限制与来源
以上信息来自 Vercel 官方更新日志，发布时间为 2026 年 10 月 6 日，作者为 AI Gateway 软件工程师 Rohan Taneja。素材未提供性能数据、定价细节或地区可用性说明，本文不作推测。开发者如需了解配置方式与计费规则，应以 Vercel 官方文档为准。