AB
AiBoss
News

Google 发布 TorchTPU,与亚马逊一道挑战英伟达在 AI 应用开发者中的地位

Google 宣布开源 TorchTPU,让 PyTorch 应用无需重写即可运行在 TPU 与 Google Cloud 上;此前一天亚马逊也发布了类似工具 TorchNeuron。两家云厂商正试图削弱英伟达 GPU 在 AI 应用开发中的默认地位。

核心事实

据 TechCrunch 报道,Google 于周二宣布,其筹备已久的 PyTorch 版本 TorchTPU 已作为开源项目发布。该工具让 AI 应用可以运行在 Google 自研的 AI 芯片 Tensor Processing Unit(TPU)上,并便于把现有 PyTorch 应用迁移到 TPU 及 Google Cloud。报道称,开发者只需修改配置,无需重写应用代码。就在此前一天,亚马逊发布了同类工具 TorchNeuron,可将 AI 应用迁移至其自研芯片 Trainium 与 AWS,同样无需重写。

背景与影响

PyTorch 是 AI 应用开发者与初创公司用来构建、训练和运行 AI 模型的流行开源工具包,最初由 Meta(当时的 Facebook)于 2016 年开发,2022 年交由 Linux Foundation 管理。报道称,按某些统计,约 85% 的 AI 应用使用 PyTorch;由于该工具诞生时英伟达 GPU 已是 AI 研究的标配硬件,许多特性是围绕英伟达芯片设计的。亚马逊还表示,将向 PyTorch 主项目提交代码,把多项特性与英伟达芯片解耦,使其默认更开放地支持各类硬件。Google 则表示,它与 Meta、Hugging Face、Inferact(vLLM 的开发方)、RadixArk(SGLang 的开发方)等合作,确保 TorchTPU 的特性与代码库能像原版 PyTorch 一样适配这些开发工具;此外还推出了 TPU agent suite 帮助开发者迁移并排查错误,并更新了 LiteRT 工具以更好支持 PyTorch 应用。

限制与来源

报道指出,这并不意味着 AI 应用开发者会因此大规模放弃英伟达硬件,只是亚马逊与 Google 正在努力终结英伟达的优势。上述 85% 的使用比例为报道引述的说法,未给出统计口径。本文信息来自 TechCrunch,相关产品的功能范围、可用地区与支持情况请以各公司官网当前信息为准。