NVIDIA 支持八节点 DGX Spark 集群，统一内存扩展至 1TB

NVIDIA 宣布支持八节点 DGX Spark 集群

据 NVIDIA 开发者博客消息，NVIDIA 在 GTC Berlin 上宣布正式支持八节点 DGX Spark 集群。单台 DGX Spark 提供 128GB 统一内存，四节点为 512GB，八节点扩展至 1TB。NVIDIA 称，这一容量使此前无法在四节点系统上启动的模型得以运行，包括 Z.ai 的完整版 GLM 5.3（753B）。集群搭建由 NVIDIA Sync 的 Cluster Assistant 负责，八节点集群支持预计于今年年底前在 NVIDIA Sync 中提供。

基准数据与拓扑选择

博客公布了多项基准：在八节点集群上运行 GLM 5.3 Flash 时，生成速度约为每秒 80 个 token；完整版 GLM 5.3（NVFP4 格式约 470GB）可在 8×128GB 集群上运行。针对张量并行解码，NVIDIA 评估了 Spark 优化的集合通信后端 RoCEnante，在交换机拓扑下八节点解码加速为 4.43 倍，未使用时为 3.05 倍。使用 Qwen3.8-27B（NVFP4）测试时，解码吞吐从单节点约每秒 12 个 token 提升至八节点约每秒 52 个 token。NVIDIA 同时指出，RoCEnante 仅适用于交换机直连拓扑，并非 NCCL 的替代品；随着集群规模与并发增长，NCCL 仍是默认且更合适的选择。此外，无交换机的环形拓扑在四节点推理场景下成本更低、部署更简单。

限制与来源

上述数据均来自 NVIDIA 官方博客的厂商自测，测试条件（如输入长度、并发数、是否启用推测解码）各不相同，实际表现可能因配置与工作负载而异。RoCEnante 已并入 FlashInfer，启动测试失败时会回退至 NCCL。多模型编排方面，NVIDIA NeMo Switchyard 的原型使用 MiniCPM5 2B 与 Qwen3.8 Flash Next，在 92 例工具调用基准中得分 91/100，与仅用 Qwen 的配置持平；聚合吞吐提升幅度取决于路由比例。预训练测试基于约 8.965 亿参数的 nanochat 模型，八节点加速 7.79 倍、扩展效率 97.4%。相关功能、兼容性与地区可用性请以 NVIDIA 官网当前信息为准。来源：developer.nvidia.com。