AB
AiBoss站
project

flint - 面向编码智能体的混合专家语言模型

flint 是 RecursiveSI 在 Hugging Face 上发布的混合专家文本生成模型,项目自述面向编码智能体,用于探查代码库、修复缺陷、实现功能与编写测试。仓库提供 BF16 权重、配置、分词器、对话模板与 SGLang 部署套件,采用 apache-2.0 许可。

flint 是维护者 RecursiveSI 发布在 Hugging Face 上的文本生成模型仓库,任务类型为 text-generation,基于 transformers 生态组织文件。据项目自述,它是一个面向编码智能体的混合专家(MoE)语言模型,目标是让模型能够探查代码库、修复缺陷、实现功能并编写测试,同时支持文本输入输出、推理过程与多轮工具调用。它适合需要把模型接入自动化编码流程、并愿意自行搭建推理服务的开发者与团队;如果只是想要一个开箱即用的对话接口,这个仓库本身并不提供托管服务。

维护者与状态

仓库由 RecursiveSI 维护,地址位于 Hugging Face。事实表显示,该仓库创建于 2026-10-21,最后更新时间为 2026-10-21,即创建与更新在同一天,此后没有新的更新时间记录。截至 2026-10-24,近 30 天下载量为 1904,点赞数为 689。事实表中没有给出正式 release 的信息,因此这里不对版本发布情况作额外推断;仓库当前呈现的是模型权重与配套文件的初始状态。

需要说明的是,上述下载量与点赞数是事实表在 2026-10-24 读取到的数值,会随时间变化,引用时应带上该日期。

主要能力

以下能力描述均来自项目自述(README / 模型卡),未经独立验证。

  • 编码智能体定位:据项目说明,flint 面向编码代理场景,覆盖代码库探查、缺陷修复、功能实现与测试编写四类典型任务。
  • 推理与工具调用:项目自述模型支持推理输出与多轮工具使用,并兼容 OpenAI 风格的工具调用格式;README 提醒使用 checkpoint 自带的对话模板,并在对话历史中保留返回的 reasoning_content 字段。
  • 混合专家结构:据模型卡,flint 为仅解码器的 MoE Transformer,总参数 39.8B,每 token 约 2.5B 激活参数;共 49 层,其中 2 层为稠密层、47 层为 MoE 层;每层 256 个路由专家,每 token 选择 6 个,另有一个常驻共享专家。
  • 注意力设计:模型卡称其包含 35 层滑动窗口注意力与 14 层全注意力,滑动窗口为 513 个 token;32 个查询头、4 个键值头,头维度 128,并采用逐头 QK RMSNorm 与可学习的逐头注意力汇。
  • 上下文配置:文档给出的上下文配置为 262,144 个 token,提示与生成输出共享这一窗口;词表规模为 150,144。
  • 训练流程:据项目说明,模型从零开始训练,经历预训练、中期训练、监督微调与强化学习,训练数据包含文本与代码、指令遵循以及智能体任务。

项目自述还给出了发布时的评测结果,包括 Terminal-Bench 2.1、SWE-bench Pro v2 与 SWE-bench Verified 上的分数,并注明部分对比分数由其他开发者自行报告、评测设置各不相同。这些数字属于维护者自述,本栏目不将其作为中立结论转述,读者如需引用应回到模型卡核对评测条件。

使用入口

模型仓库地址:RecursiveSI/flint。仓库内包含 BF16 checkpoint、模型配置、分词器、对话模板以及一套 SGLang 服务套件;量化版本据项目说明另行准备,面向 NVIDIA 与 Apple Silicon 运行时。

据 README,当前推荐的部署路径是 SGLang,每个副本需要一张 B300 或 H200 GPU,Transformers 建模代码尚未包含在仓库中。基本流程为:先安装 huggingface_hub 与 openai 客户端并下载权重(README 标注约 80 GB),再构建 SGLang 镜像、启动服务脚本,最后用示例客户端调用。

pip install -U huggingface_hub openai
hf download RecursiveSI/flint --local-dir flint && cd flint
docker build -t flint-sglang sglang
docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 \
  -v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve_b300.sh

服务就绪后,可通过 OpenAI 兼容接口调用,模型名填写 flint。README 给出的推荐生成参数为温度 1.0、top-p 0.95、top-k 20;对于困难问题,建议输出预算至少 32768 个 token(含推理部分)。请求未显式指定采样参数时,服务端会套用这组默认值。更多关于依赖要求、启动脚本选项、多卡部署与 API 细节的说明,项目指向仓库内的 sglang/README.md。

许可与限制

许可证为 apache-2.0。项目说明中提到,托管 API 的服务条款与数据处理实践独立于权重许可,二者不应混为一谈。

项目自述列出的已知限制包括:监督微调虽包含安全导向的示例,模型仍可能生成错误或有害内容、有缺陷的代码,或发起不恰当的工具调用;生成的代码应先测试,有实际影响的变更应先审阅再应用。使用工具的应用需要自行实施权限与执行边界,结构化的工具调用语法并不能阻止模型选择不安全或错误的动作。较长的推理过程会增加延迟,并可能在答案完成前耗尽输出预算。上下文配置是容量上限,并不保证在所有序列长度或任务上保持一致的准确率;结果还可能随 checkpoint 精度与推理运行时变化,因此应对实际部署的 checkpoint 与运行时单独评估。

项目说明还给出了反馈渠道:模型与服务问题可联系 support@recursive.com,并附上 checkpoint 版本、运行时版本、硬件、启动命令与最小复现;安全问题与疑似滥用分别有对应邮箱。这些联系方式属于项目自述内容,是否长期有效需以仓库最新说明为准。