NVIDIA Nemotron 3.5 Super VL 上线 Amazon SageMaker JumpStart

核心事实

AWS 于 2026 年 11 月 9 日发布博客称，NVIDIA Nemotron 3.5 Super VL 已在 Amazon SageMaker JumpStart 上线。用户可通过 SageMaker Studio 的少量步骤或 SageMaker Python SDK 的少量代码完成部署。该模型是 NVIDIA Nemotron 3.5 系列中的视觉语言模型（VLM），输入支持图像、视频与文本，输出为文本。据博客介绍，模型采用 120B 参数、每 token 激活 12B 参数的混合专家（MoE）语言主干，搭配 C-RADIO 视觉编码器，上下文长度最高可达 100 万 token，并内置支持投机解码的多 token 预测（MTP）头，可按请求配置推理开关。

背景与影响

JumpStart 提供两个版本：由 BF16 经量化感知蒸馏得到的 NVFP4 版本，面向推理延迟与吞吐优化；以及 BF16 全精度参考权重，面向微调、强化学习、蒸馏与领域适配等定制场景。博客列出的目标用途包括文档智能、面向计算机使用智能体的 GUI 理解、视频问答与多模态智能体应用。语言支持方面，博客称覆盖英语、法语、德语、意大利语、日语、西班牙语和中文。许可证为 OpenMDW License Agreement 1.1 版。博客同时给出了在 JumpStart 发布容器上测得的推理性能数据，并说明不同版本运行于不同 GPU 配置，因此这些数字不构成隔离的精度对比。

限制与来源

博客指出，JumpStart 服务配置的上下文长度实际使用 520 至 15,600 token，而非模型上限；投机解码在 JumpStart 服务配置中未启用；端点仅提供基础权重，不加载 LoRA 适配器；每次请求接受一张图像和一个视频。上述性能数字来自 AWS 博客的特定测试配置，不代表所有场景。模型可用性、实例类型、定价与区域支持请以 AWS 官网当前信息为准。本文信息源自 AWS 官方博客，未获独立验证。