AB
AiBoss站
快讯

NVIDIA 以 Apache 2.0 开源 Run:ai,面向 Kubernetes 的 GPU 编排

NVIDIA 已将 Run:ai 平台整体开源,代码以 Apache 2.0 许可发布于 GitHub,包含控制平面、集群服务、安装器、CLI 与 MCP 服务器,并拆分为四个可独立采用的组件。

核心事实

据 MarkTechPost 报道,NVIDIA 已将 NVIDIA Run:ai 平台整体以开源软件形式发布,源代码在 GitHub 上以 Apache 2.0 许可提供。该平台用于在 Kubernetes 上调度开发、训练与推理工作负载,管理共享 GPU 集群,运行于 Kubernetes 之上而不替代它。用户可通过 Web UI、CLI、REST API 以及面向 AI 助手的 MCP 服务器访问。

此次发布拆分为四个可独立采用的组件:KAI Scheduler(Kubernetes 原生调度引擎,Apache 2.0,CNCF Sandbox 项目)、GPU Fractioning Operator(基于 CUDA 13.4 的 GPU 分片,由驱动实施硬性显存上限)、KAI Resource Management(项目、部门、配额与节点池)以及 Workload Map(描述 PyTorchJob、RayCluster、KServe 等工作负载类型的 Go 库)。

背景与影响

报道称,该版本使 Run:ai 成为 NVIDIA DSX AI Factory 平台的一部分,平台团队可检查、分叉并自托管整套栈,无需付费订阅。本地开发通过 local-dev.sh 脚本在容器内从源码构建约 50 个 Go 服务,并创建固定为 Kubernetes v1.32.5 的 5 节点 Kind 集群,以模拟的 8 块 Tesla-A10 GPU 运行,无需真实 GPU 硬件。生产部署可从源码或 NGC Community Product Helm chart 进行,也可通过报道列出的 8 家 DSX 生态伙伴采用;商业版本继续经由 NVIDIA AI Enterprise、NVIDIA Mission Control 及部分云市场提供。

限制与来源

报道明确指出,NVIDIA 未针对本次发布公布平台级基准测试;社区版不含 NVIDIA 企业级支持。本地构建在 Linux 上需要 4 核 CPU、16 GB 内存与 100 GB 可用磁盘,macOS 的 Podman 虚拟机至少需 12 GB 内存,不支持 Windows,也不支持 AMD 与 Intel 加速器。文中提及的 Model Streamer 加载提速数据来自微软在 8 台 NVIDIA H100 虚拟机上的基准测试,并非本平台的性能结论。上述许可、组件与部署方式请以 NVIDIA 官网及 GitHub 仓库当前信息为准。本文来源为 MarkTechPost,相关细节尚未获 NVIDIA 官方逐项确认。