AB
AiBoss
ニュース

NVIDIA 发布 Nemotron 3.5 Bolt E4B:面向本地语音代理的开放小模型

NVIDIA 发布开放小语言模型 Nemotron 3.5 Bolt E4B,主打本地语音助手、游戏角色与机器人交互,约 4GB 显存目标。模型由 Gemma 4 E4B 经纯强化学习后训练而来,NVIDIA 自测在 21 项基准中 15 项领先,但 Tau2-Bench 明显落后 Qwen3.5-4B。

NVIDIA 推出 Nemotron 3.5 Bolt E4B

NVIDIA 发布开放小语言模型 Nemotron 3.5 Bolt E4B,面向本地运行的快速对话代理,目标场景包括设备与语音助手、游戏 NPC 以及嵌入式与工业机器人接口,官方列出的运行硬件为 GeForce RTX、Jetson、RTX Spark 与 DGX Spark。据 MarkTechPost 报道,该模型由 Google 的 Gemma 4 E4B 后训练而来,且完全跳过监督微调,仅使用强化学习。规格方面,模型为 8B 总参数、4B 有效参数,支持 64K 上下文,权重以 OpenMDW-1.1 许可发布。

训练方式与性能表现

报道称,NVIDIA 团队认为监督微调虽能改善工具调用,却会损害 Gemma 的对话质量并导致冗长,因此改用 NeMo-RL 与 NeMo-Gym 进行 RLVR 和 RLHF 训练,训练数据与配方一并公开。NVIDIA 自测显示,Bolt 在 21 项基准中的 15 项领先于 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,其中 IHEval 得分为 84.8。不过报道也指出其短板:Tau2-Bench 得分 55.1,落后 Qwen3.5-4B 的 75.1 约 20 分,在 RULER 64K、LongBench v2 与 BFCL-v3 上同样不占优。上述数字均为 NVIDIA 在自有测试框架中测得,厂商自报成绩通常存在差异。

限制与来源

需要说明的是,名称中的「4GB」指目标显存占用区间,而非文件体积;报道称 Hugging Face 上的 Q4_K_M GGUF 文件为 6.18 GB。模型可通过 Hugging Face、Ollama、LM Studio、Unsloth 与 Jetson AI Lab 获取,并以 NVIDIA NIM 形式提供,build.nvidia.com 上有免费托管 API。具体可用地区、量化版本与许可条款请以 NVIDIA 官网及模型卡当前信息为准。本文信息来自 MarkTechPost 报道,其中基准成绩与硬件数据均引自 NVIDIA 自行发布的材料,尚未获独立第三方验证。