NVIDIA 称 Vera Rubin NVL72 每兆瓦智能体吞吐量最高达 GB300 的 30 倍

核心事实

NVIDIA 开发者博客发文称，基于 SemiAnalysis 的 AgentX 智能体编码基准，NVIDIA Vera Rubin NVL72 在 DeepSeek V4-Pro 负载、每用户每秒 160 token 的交互水平下，每兆瓦 AI 工厂吞吐量最高可达 GB300 NVL72 的 30 倍。文章同时给出 Blackwell 代际数据：在 AgentX 负载上，GB300 NVL72 对 DeepSeek V4 Pro 1.6T 的每兆瓦吞吐量最高为 H200 NVL8 的 15 倍，对 Kimi K3 2.8T 最高约 80 倍，每百万 token 成本最高低 10 倍。

背景与影响

文章指出，智能体推理已从单轮问答变为多步工作流：模型需要推理、调用工具、协调子智能体，并在多轮之间累积上下文。文中引用 OpenRouter 的 State of AI 报告称，在 100 万亿 token 的真实使用数据中，单次请求的平均提示 token 增长约四倍，单个智能体请求消耗的 token 是普通对话的 15 倍。AgentX 通过回放预录的 Claude Code 会话，保留上下文长度、推理时间与工具调用间隔，并在不同并发下测量每兆瓦吞吐与交互性之间的取舍。NVIDIA 将上述优势归因于系统级优化，包括 SGLang、TensorRT-LLM、vLLM 等 MoE 服务运行时，MXFP4/MXFP8 混合精度内核，Dynamo 的预填充与解码分离，以及 NVLink 扩展域。

限制与来源

需注意，Vera Rubin NVL72 的数据由 NVIDIA 自行测量，文章明确标注「尚待 SemiAnalysis 复核」，并非第三方独立验证结果。上述倍数均为特定模型、特定交互目标与特定基准下的对比，不代表所有工作负载或部署环境。产品可用性、配置与支持地区请以 NVIDIA 官网当前信息为准。本文不构成采购或投资建议。来源：NVIDIA 开发者博客，作者 Jamie Li 与 Eduardo Alvarez，2026 年 8 月 24 日。