AB
AiBoss
ニュース

英伟达发布 DSX 平台:让 AI 工厂在固定电力预算下产出更多 Token

英伟达在 AI Infra Summit 上介绍 DSX 平台,涵盖动态功耗分配、电网需求响应与 800V 直流供电等方向。据其博客披露,Lambda 在 HGX B200 集群上的验证显示,同一电力预算下集群 Token 吞吐量提升 24%。相关数据来自厂商,尚未获独立确认。

英伟达推出 DSX 平台,聚焦 AI 工厂每兆瓦产出

据英伟达官方博客,该公司在 AI Infra Summit 上介绍了 NVIDIA DSX 平台,目标是在电力成为主要约束的条件下,提升 AI 工厂每兆瓦所能产出的 Token 数量。该平台包含多个组件:DSX MaxLPS 用于实时监控 GPU 与机架级功耗并动态分配电力余量;DSX Flex 用于接收电网的削峰、需求响应与电价信号并调整 AI 工作负载优先级;DSX OS 为面向 AI 工厂生命周期管理的开源模块化软件;DSX Sim 用于在实体部署前进行设计与瓶颈验证;此外还有分代验证的 DSX Reference Designs 参考设计。

背景与影响

博客称,云服务商 Lambda 在五机架、19 节点的 HGX B200 集群上验证了 DSX MaxLPS:以 19 节点运行在约 85% 功耗策略下,对比 16 节点满功耗基线,在同一电力预算内实现集群 Token 吞吐量提升 24%(约从每秒 400 万 Token 增至 500 万),每瓦性能提升 23%。英伟达还称,基于其自身预测,DSX MaxLPS 在合适部署环境下可为下一代 Vera Rubin NVL72 工厂在同一兆瓦预算内带来最高 40% 的 GPU 容量提升。在电网侧,博客提到 Emerald AI 的 Conductor 平台参与 Silicon Valley Power 的柔性负载互联计划,可在不到一分钟内响应需求信号,将功耗从 4 兆瓦降至 3 兆瓦,同时保持高优先级推理任务运行。英伟达表示,首个专门的 DSX Flex 商业部署将是位于弗吉尼亚州 Manassas 的 96 兆瓦 Vera Rubin AI 工厂。此外,英伟达称其 800V 直流架构旨在降低转换复杂度,并正被纳入 DSX 参考设计。

限制与来源

上述性能与容量数据均来自英伟达博客及其合作方,属于厂商公布口径,尚未获独立第三方确认,实际表现可能因部署环境、工作负载构成与电网条件而异。DSX 各组件的具体功能范围、可用地区、许可方式与商业条款,请以英伟达官网当前信息为准。本文不构成任何投资或采购建议。