Spark-X2.6 - 面向端侧智能体任务的 4B 通用语言模型

Spark-X2.6 是维护者 XHToken 在 Hugging Face 上发布的文本生成模型，仓库名为 Spark-X2.6-4B。按项目自述，它属于面向端侧部署的紧凑型通用语言模型，定位是让开发者在本机或单机设备上运行具备工具调用、多步规划与软件工程能力的智能体。据项目说明，这一代沿用 Spark-X2.5-4B 的架构，能力提升主要来自后训练环节的改进，而非模型结构变化。它适合需要在本地或资源受限环境中跑通智能体工作流、又不想依赖大规模集群的开发者与团队。

维护者与状态

该仓库由 XHToken 维护，任务类型为 text-generation，框架标注为 transformers。仓库创建于 2026-10-19，最后更新于 2026-10-21。截至 2026-10-24，近 30 天下载量为 1060 次，点赞数为 416。事实表中没有给出正式 release 信息，因此这里不对版本发布节奏作任何推断；模型权重与配置文件以 Hugging Face 仓库当前内容为准。

主要能力

以下能力描述均来自项目自述（模型卡），未经本站独立验证。

• 编码与智能体能力：据项目说明，新模型在涉及复杂工具使用、多步规划和软件工程的智能体工作流上有明显提升，项目自称在同类尺寸的开源模型中达到领先水平，并在部分任务上追平甚至超过约 9B 参数的模型。
• 长上下文：模型卡将长上下文列为重点改进方向之一；其 SGLang 部署示例按 1,048,576 token 的最大上下文长度配置，并提示该设置需要足够的显存，必要时可下调 --context-length。
• 可配置思考预算：项目提供 none、low、high 三档思考级别，应用可以据此在推理质量、延迟与推理成本之间动态取舍。在 Transformers 调用中通过 enable_thinking 参数控制；在 SGLang 的 OpenAI 兼容接口中，默认开启思考，单次请求可通过 "chat_template_kwargs": {"enable_thinking": false} 关闭。
• 多语言与推理：模型卡称这一代在多语言与推理等方向同样有改进，但未在正文中给出具体评测数值。
• 端侧推理效率：项目自述其推理效率与同类端侧模型相当或更优，并将其与更强的能力组合作为实用性的依据。

使用入口

模型权重、配置文件与完整示例见 Spark-X2.6-4B。据模型卡，主要有三种调用方式。

Transformers

项目要求安装 transformers==4.57.1，加载时需开启 trust_remote_code。示例中通过 apply_chat_template 构造输入，并传入 enable_thinking=True 开启思考；生成参数示例为 max_new_tokens=131072、temperature=1.0、top_p=0.95、top_k=0。

pip install transformers==4.57.1

SGLang

模型卡给出 NVIDIA GPU 与 Ascend NPU 两种预构建镜像，启动 OpenAI 兼容服务时使用 --tool-call-parser spark25 与 --reasoning-parser qwen3，并挂载仓库内的 chat_template.jinja。服务默认端口为 30000，客户端以 /v1/chat/completions 调用。

vLLM

NVIDIA GPU 场景使用官方 vllm/vllm-openai 镜像，需带 --trust-remote-code 与 --chat-template；Ascend 场景则按 A2、A3、950DT 分别选用对应的 vllm-ascend 镜像，模型卡另提到需要安装 Spark 插件。具体命令与设备挂载参数以仓库页面为准。

许可与限制

许可证为 apache-2.0。使用时需注意以下几点：其一，模型卡中的性能表述（包括与约 9B 模型对比、同类模型领先等）均为项目自述，未附可复核的评测细节，不宜直接当作选型依据；其二，长上下文与高并发部署对显存有实际要求，SGLang 示例中的 1,048,576 token 上下文需按硬件情况下调；其三，Transformers 路径依赖 trust_remote_code，意味着会执行仓库自带代码，部署前应自行审阅；其四，Ascend 相关镜像为 nightly 或 daily build，稳定性与版本兼容性需自行确认。此外，模型卡示例中的提问与回答内容仅作调用演示，不构成对模型事实准确性的保证。