微软研究：把机器人推理卸载到边缘或云端可提升表现

核心事实

微软研究院在官方博客发布题为《Offloaded inference for real-world physical AI robotics》的文章，称其针对移动机器人操作（mobile robotic manipulation）工作负载开展了系统性测量研究，结论是：把物理AI推理完全放在机器人机载GPU上运行，可能限制机器人性能、电池续航与可扩展性；将推理卸载到边缘或云端GPU则可能带来明显好处。文章称，该研究覆盖语义建图与规划、导航、操作三类核心能力，并已在微软的 Physical AI Toolchain 中加入据称是业界首个的机器人物理AI推理卸载能力，附带 SO-101 与 UR10e 的示例项目。

背景与影响

文章指出，当前物理AI的常见做法是在机器人上配置GPU，推理被限制在机载算力内，高层规划可能在云端完成，但任务执行通常仍绑定在机器人本体。随着模型规模与复杂度上升，机载GPU的功耗、重量、成本与显存限制愈发突出。微软称，其测量显示在显存不足的GPU上部分移动操作栈无法运行；在显存足够的GPU上，建图与规划相对 A100 最多变慢 383%，导航对障碍物的及时检测下降 30%，视觉-语言-动作（VLA）模型精度下降 50%。文章还称，用 Raspberry Pi 5 板卡替代机载GPU并把数据送到卸载GPU，可延长续航，而 Jetson Thor 等较大机载GPU会使电池消耗增加最多 160%。相关数字均为该博客自述，具体测试硬件细节需参见其技术报告。

限制与来源

上述性能与续航数据来自微软研究院博客及其引用的技术报告，尚未见独立第三方复现，读者应以官方后续发布的论文与代码为准。文章同时承认，推理卸载涉及性能、网络时延与带宽、可用GPU资源之间的复杂权衡。工具集基于 Kubernetes，并称可与机器人仿真器、LeRobot 和 ROS2 集成；其开源许可、可用地区、云服务计费与账号要求等，请以微软官网及项目仓库当前信息为准。本文不构成任何投资或采购建议。