快讯
腾讯混元团队开源投机解码框架 AngelSpec
腾讯混元团队开源投机解码框架 AngelSpec,覆盖 drafter 训练、架构设计到线上部署全链路,同步开源 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。DFly 在 4 至 64 并发取得 SOTA,较自回归基线平均加速 1.98–2.40 倍,代码数学峰值 2.86 倍;D-cut 高并发额外提升吞吐 15.7%,MTP 结合 TTT 将对话接受率从 52.8% 提至 66.4%。
腾讯混元团队开源投机解码框架 AngelSpec,覆盖 drafter 训练、架构设计到线上部署全链路,同步开源 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。DFly 在 4 至 64 并发取得 SOTA,较自回归基线平均加速 1.98–2.40 倍,代码数学峰值 2.86 倍;D-cut 高并发额外提升吞吐 15.7%,MTP 结合 TTT 将对话接受率从 52.8% 提至 66.4%。