LFM3 - 面向本地智能体与专用场景的 1.73B 文本模型

LFM3-1.7B 是 LiquidAI 发布的一个小型纯文本语言模型，据项目说明，它面向本地智能体（local agents）与专用应用场景，基于该团队新的三混合（tri-hybrid）架构构建。它的定位很明确：用较小的参数规模承担工具调用、结构化输出、领域微调这类任务，让模型能跑在手机、笔记本等终端设备上，而不是依赖远端的大模型服务。适合的人群包括：想在本地部署智能体或工具调用能力的开发者、需要把模型微调到自己业务格式与工具集上的团队，以及希望在资源受限设备上做推理的工程人员。

维护者与状态

该项目由 LiquidAI 维护，仓库托管在 Hugging Face 上，任务类型为 text-generation，框架标注为 transformers。仓库创建时间为 2026-10-23，最后更新时间为 2026-10-27。截至 2026-10-28 的数据读取时间，近 30 天下载量为 6311，点赞数为 193。事实表中未给出正式 release 信息，因此这里不对版本发布节奏作任何推断，具体以仓库页面为准。

主要能力

以下内容均来自项目自述（模型卡），属于维护者的说明而非中立评测：

• 智能体训练：据项目说明，模型针对 Hermes Agent、Pi、OpenClaw 等智能体框架做过后训练，上下文窗口为 256K token。
• 面向边缘设备：项目自述在 4-bit 精度下约占用 1 GB 内存，因此可以放进手机或笔记本。
• 便于专用化：README 中称可通过单卡快速微调，把模型适配到特定领域、格式与工具。
• 规格：模型卡列出的参数为 1.73B，24 层，其中 13 层门控短卷积、5 层滑动窗口注意力、6 层全局注意力；上下文长度 256K token（输入加输出）；词表 128,000 token。
• 语言：模型卡列出的语言包括英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印尼语、印地语、俄语、波兰语。
• 推理与工具调用：据项目说明，推理默认开启，可通过 enable_thinking=False 关闭思考轨迹，但该行为在推理密集型任务上可能不稳定；工具调用通过 apply_chat_template() 的 tools= 参数传入函数 schema，生成的调用使用 XML 格式，由应用侧执行。模型还支持延迟加载工具（defer_loading=True），由外部 harness 实现工具检索。
• 微调路径：模型卡给出基于 TRL 的 SFT、DPO、GRPO、CPT 四类示例场景，分别对应从杂乱文档抽取结构化 JSON、基于检索内容作答或拒答、在工具众多的应用中调用正确工具、以及从原始文本学习新语言。

需要说明的是，模型卡中同时列出了大量基准测试成绩与推理速度对比，这些数字由维护者自行给出，本文不转述具体数值，也不做横向比较。

使用入口

模型仓库地址为 LiquidAI/LFM3-1.7B，权重、模型卡与使用说明均在该页面。

据项目说明，推理可按框架与硬件选择不同的 checkpoint 变体：BF16 权重用于 vLLM、SGLang、Transformers 的 GPU 推理；FP8 与 NVFP4 量化用于 SGLang；GGUF 用于 llama.cpp、Ollama、LM Studio 的本地 CPU/GPU 推理；MLX 4-bit 量化面向 Apple Silicon；ONNX 用于 ONNX Runtime 的跨平台推理。

模型卡给出的 Transformers 快速开始方式如下（原文示例）：

from transformers import pipeline

generator = pipeline(
    "text-generation",
    model="LiquidAI/LFM3-1.7B",
    trust_remote_code=True,
)

messages = [{"role": "user", "content": "What is C. elegans?"}]
output = generator(
    messages,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.1,
    max_new_tokens=2048,
)
print(output[0]["generated_text"][-1]["content"])

采样参数方面，项目建议通用场景（对话、工具使用、智能体、编码）使用 temperature=0.1, top_k=50, repetition_penalty=1.1；数学与 STEM 场景使用 temperature=1.0, top_p=0.95, top_k=20。对话模板为 ChatML 格式，可用 tokenizer.apply_chat_template() 配合 add_generation_prompt=True 自动格式化消息。

许可与限制

许可证在事实表中记为 other，即自定义许可。据模型卡，其名称为 LFM Open License v1.0，具体条款以仓库 LICENSE 文件为准，本文不对其可否商用等事项作出结论。

适用边界方面，项目自述明确指出：该模型面向本地智能体、工具调用、结构化输出与领域微调；知识密集型任务建议配合检索或搜索使用；由于其规模较小，不推荐用于智能体编码（agentic coding）或复杂多步推理。此外，关闭思考轨迹的行为在推理密集型任务上可能不一致，属于项目自述的已知限制。硬件方面，模型卡称 4-bit 精度下约需 1 GB 内存，可在手机或笔记本上运行；不同 checkpoint 变体对应不同推理框架，选用前需确认目标框架与硬件是否匹配。