AB
AiBoss
News

AWS 推出 TorchNeuron,简化 PyTorch 应用迁移至 Trainium

AWS 发布 TorchNeuron 开发工具,称只需改动一行配置即可让基于 PyTorch 的 AI 应用运行在自研芯片 Trainium 上,并计划向 PyTorch 上游贡献代码以降低框架对特定芯片的绑定。

AWS 发布 TorchNeuron,主打一行配置迁移

据 TechCrunch 报道,亚马逊云科技(AWS)于 10 月 19 日发布名为 TorchNeuron 的开发工具,用于帮助 AI 初创公司将基于 PyTorch 构建的 AI 应用迁移到亚马逊自研 AI 芯片 Trainium 上。亚马逊方面称,开发者只需改动一行配置,无需重写代码。该工具改编自 PyTorch,熟悉 PyTorch 的开发者可直接上手。

背景:PyTorch 生态与芯片绑定之争

亚马逊称约 85% 的 AI 应用使用 PyTorch 编写。PyTorch 最初由 Facebook 开发,自 2022 年起归属 Linux 基金会维护。多年来,英伟达通过 CUDA 软件体系让 PyTorch 应用在其硬件上顺畅运行,使其硬件在工具链中近乎默认存在。亚马逊并非首家尝试简化芯片接入的公司,PyTorch 用户也可通过配置改动将应用迁移到 AMD GPU 或苹果芯片。AWS Annapurna Labs 技术软件副总裁 Colin Brace 表示,Trainium 的价值在于性价比,以及训练与推理共用同一平台。他还提到语音 AI 厂商 Deepgram 迁移后「每美元处理的音频量提升 70%」。亚马逊同时表示将向 PyTorch 上游贡献代码,移除框架与特定芯片绑定的部分。

限制与来源

上述性能表述来自 AWS 方面,尚未获独立验证;TorchNeuron 的实际易用性、支持范围与可用地区需以 AWS 官网当前信息为准。报道亦指出,推动 PyTorch 与英伟达解耦能否真正带来更多选择与更低成本,仍有待观察。本文依据 TechCrunch 报道整理。