Meta 工程团队将闲置推理算力用于广告推荐

核心事实

Meta 工程团队在官方博客中介绍了一套利用闲置推理算力改善广告推荐的系统。据该文章描述，推理集群常出现「全局紧张、局部闲置」的矛盾：为应对高峰需求而预留的容量、模型开发与算力交付的时间错配、区域间 CPU 与加速器配比不均，以及不同厂商、代际加速器之间工作负载难以迁移，都会造成局部算力闲置。Meta 将分散在各团队配额、区域和加速器类型中的这些闲置容量汇集成共享的「机会性容量池」，用于广告推荐，从而在不额外订购容量的情况下让用户看到更相关的广告。

背景与影响

文章称，机会性容量具有可被随时回收、波动大、无长期保障的特点，因此系统设计了两个互补的弹性杠杆：Rank More Ads（RMA）在容量富余时增加排序阶段评估的候选广告数量；Serve Better Models（SBM）则调整由更强模型处理的请求比例。RMA 同时消耗 CPU 与加速器资源，SBM 主要消耗加速器资源，二者结合可覆盖更广的闲置资源组合。为保护基线流量，SBM 采用物理隔离（基线与更强模型使用独立路由目标），RMA 采用逻辑隔离（以总容量设定全局预算）；两者均通过反馈回路控制工作量，并在容量被突然回收时进行价值感知的负载卸载，使可选工作收缩而非挤占基线容量。文章称该系统为广告主带来价值并提升容量效率。

限制与来源

上述内容来自 Meta 工程博客（engineering.fb.com）2026 年 10 月 12 日发布的文章，作者为 Jinfu Leng、Rohith Menon、Nicolas Stier 等多人。文中未给出具体的性能提升数字、成本节省幅度、适用地区或上线范围，相关效果与可用性以 Meta 官方后续信息为准。本文仅作信息转述，不构成任何投资或采购建议。