NVIDIA Nemotron 3.5 Lightning 免费上线 Vercel AI Gateway
Vercel 更新日志显示,NVIDIA 的 Nemotron 3.5 Lightning 已在 AI Gateway 上免费提供,模型名为 nvidia/nemotron-3.5-lightning-free,由 NVIDIA 提供服务。该模型为开放权重推理与对话模型,采用混合 MoE 设计,上下文窗口 1M token,支持工具调用与结构化输出。
核心事实
据 Vercel 更新日志,NVIDIA 的 Nemotron 3.5 Lightning 现已在 AI Gateway 上免费提供,模型标识为 nvidia/nemotron-3.5-lightning-free,由 NVIDIA 提供服务。该模型被描述为一款开放权重的推理与对话模型,面向长时间运行的智能体、子智能体任务、聊天机器人以及 RAG 系统。
据该更新日志,模型规模为 300 亿参数、每 token 激活 30 亿参数,采用混合专家(MoE)设计,将 Mamba-2 层与 MoE 层交错排布,并保留少量注意力层;上下文窗口为 100 万 token,支持工具调用与结构化输出。
背景与影响
Vercel 表示,开发者可通过 AI SDK、Chat Completions、Responses 与 Messages API 调用该模型,也可在连接到 AI Gateway 的编码智能体中使用;在 Claude Code、Codex、Cursor 等工具中,需安装最新版 Vercel CLI 并运行 npx vercel ai-gateway setup,随后在智能体中选择该模型。
AI Gateway 定位为统一调用模型的 API,可跟踪用量与成本,并配置重试、故障转移与性能优化。Vercel 称其按提供商定价计费、不加价,也不对推理收取平台费用,包括自带密钥(BYOK)请求。相关可用性、计费与功能细节可能调整,请以官网当前信息为准。
限制与来源
该更新日志提示,提供商可能保留提示词用于模型改进。上述参数、上下文长度与调用方式均来自 Vercel 更新日志,未包含独立实测数据或第三方评测;免费范围、地区可用性与长期政策尚未获官方进一步确认。
来源:Vercel 更新日志(vercel.com),作者 Zachary Chen、Jerilyn Zheng。