Polymathic AI 与普林斯顿发布 FlashMap：流映射草稿器加速 LLM 解码

核心事实

据 MarkTechPost 报道，来自 Polymathic AI、普林斯顿大学、USC ISI、纽约大学和 Flatiron Institute 的研究者发布了 FlashMap。这是一种投机解码（speculative decoding）草稿器，用连续流映射（flow map）替代此前的离散扩散草稿器，可在一次前向传播中草拟一个完整的 16 token 块，且块内各 token 之间保持相互一致。研究团队报告，在 Qwen3-8B 上于 GSM8K 任务取得最高 6.14 倍的无损加速。Qwen3-8B 与 Qwen3-4B 的草稿器权重已发布在 Hugging Face，并提供 vLLM 与 SGLang 插件。

背景与影响

投机解码的速度取决于两点：草稿被接受的比例，以及草稿本身的生成成本。EAGLE-3 采用自回归方式草拟，成本随块长度增长；DFlash 用块扩散一次生成整块，但每个槽位独立预测，可能产生块内不自洽的组合，从而被目标模型拒绝。FlashMap 基于 Flow Map Language Models，让每个噪声样本联合决定整块所有槽位的取值。其草稿器为 6 块扩散 Transformer，嵌入维度 2048、16 个注意力头，读取目标模型第 1、9、17、25、33 层的隐藏状态，嵌入矩阵与 LM 头从目标模型复制并冻结。训练分两阶段：先训练连续流教师模型，再用半群蒸馏得到可一步去噪的学生模型，训练数据为 Open-PerfectBlend 的 50 万样本。研究者在相同数据和设置下重训了 EAGLE-3 与 DFlash 作为对照，覆盖数学、代码与对话共 9 个基准、温度 0 与 1。团队称一步模式在 Qwen3-8B 的全部任务上均为最快草稿器，平均比重训后的 DFlash 高约 7%；两步模式在 18 个设置中接受长度全部优于 DFlash，平均高 10%。

限制与来源

上述加速与接受长度数据均来自研究团队自述，论文中的测速环境为单张 NVIDIA H200 NVL、并发 1、bf16 精度，实际部署表现会随硬件、模型与负载变化。团队也披露了较弱结果：在 Alpaca、温度 1 时加速为 2.28 倍；在 Qwen3-4B、温度 0 下，9 项任务中有 4 项落后于 DFlash。权重采用 Apache-2.0、代码采用 MIT 许可，具体安装方式、支持的 vLLM 与 SGLang 版本及参数配置以项目官网与仓库当前信息为准。本文未做独立复现或实测。