AB
AiBoss
ニュース

Liquid AI发布LFM2.5-DSpark推测解码模型

Liquid AI发布LFM2.5-DSpark推测解码模型,为1.2B-Instruct、2.6B和8B-A1B提供配套检查点;厂商测试称推理最高可加速3.2倍。

Liquid AI发布LFM2.5-DSpark推测解码模型,为三款LFM2.5模型提供配套检查点。

首批覆盖1.2B-Instruct、2.6B和8B-A1B。Liquid AI测试称推理速度最高可提升3.2倍,但该结果来自厂商测试,实际收益会随硬件、批次、提示长度和推理框架变化。

来源:Liquid AI官方文章