Cloudflare 称通过持续优化将推理成本降低 68%

核心事实

Cloudflare 在官方博客中称，其 AI 代码审查工具的平均单次审查成本已从约 2.43 美元降至 0.77 美元，降幅为 68%。该对比基准是优化工作开始前两周的平均值。同一篇文章还提到，审查的中位耗时从 4 分 09 秒缩短至 1 分 32 秒。据该文说明，约 40% 的成本节省来自审查器代码的改动与优化，其余来自对所用模型及投入强度的试验。

背景与影响

文章回顾称，该工具在 4 月的一篇博客中，平均单次审查成本为 1.19 美元，到 8 月底升至约 2.46 美元。作者表示，期间并未做重大架构调整，协调器仍把任务分派给同一组专业审查器，风险分级也沿用原有规则。文中给出的逐月数据为：3 月 1.22 美元、6 月 1.44 美元、7 月 1.74 美元、8 月 2.32 美元。文章认为，成本上升主要来自这几个月间的模型更换；8 月初所有审查器迁移至 Anthropic 模型后，单任务成本从 1.38 美元升至 2.03 美元，理由是内部评测中该系列模型在此类工作负载上表现更好。此外，进入最贵档位的审查占比从 3 月的 59% 升至 8 月的 65%。

限制与来源

上述数字均为 Cloudflare 自行披露，尚未看到第三方独立核验；成本口径、统计区间与模型配置可能随其内部调整而变化，具体以 Cloudflare 官网及博客当前信息为准。本文不构成任何采购或投资建议。来源：Cloudflare 博客文章《Cutting our inference bill by 68% by being obsessive about optimization》。