ニュース
Liquid AI发布LFM2.5-DSpark推测解码模型
Liquid AI发布LFM2.5-DSpark推测解码模型,为1.2B-Instruct、2.6B和8B-A1B提供配套检查点;厂商测试称推理最高可加速3.2倍。
Liquid AI发布LFM2.5-DSpark推测解码模型,为三款LFM2.5模型提供配套检查点。
首批覆盖1.2B-Instruct、2.6B和8B-A1B。Liquid AI测试称推理速度最高可提升3.2倍,但该结果来自厂商测试,实际收益会随硬件、批次、提示长度和推理框架变化。
来源:Liquid AI官方文章。