DeepSeek 开源推理框架 DeepInfer，AI 编写算子登顶两个评测榜

DeepSeek 开源推理框架 DeepInfer

据雷峰网报道，DeepSeek 近日全面开源推理框架 DeepInfer。在模型权重以及 FlashMLA、DeepGEMM 等算子库之后，DeepSeek 进一步把模型运行的链路开放出来。报道提到，FlashMLA 有工程师在芯片上逐行手调的版本，算子性能达到硬件极限的 90% 以上。

AI 编写算子登顶两个评测榜

报道称，同一周内，完全由 AI 编写算子、无人工逐行调优的 ForgeKernel 同时登上两个算子评测榜首位：英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集第一，以及昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一，基准加速比为 1.835×，领先第二名 25%。报道还称，在 DeepSeek v4.1 Flash 的算子上，ForgeKernel 以从零用 AI 迭代的方式，相比 DeepSeek 开源的英伟达版本实现性能超越。上述榜单名次与加速比数据均来自媒体报道，尚未获相关方官方确认。

限制与来源

本文信息来自雷峰网（www.leiphone.com）的报道，未做独立验证。文中涉及的算子性能、榜单排名、加速比等均为报道方给出的说法，具体数值、适用芯片范围与版本情况请以 DeepSeek、ForgeKernel 及相关评测榜官方当前公布的信息为准。报道同时指出，算子效率影响同一块显卡的运行速度与每个 token 的成本，但未给出定价信息。