AB
AiBoss站
project

Maxwell-V1-Flash - 35B 总参数、3B 激活的 MoE 长上下文文本生成模型

Maxwell-V1-Flash 是 maxwell-model 在 Hugging Face 上发布的纯文本 MoE 因果语言模型,采用 Apache-2.0 许可。据项目自述,其总参数 35B、每 token 激活 3B,支持最长 256K 上下文,主打推理、智能体与长上下文场景。本文整理其维护状态、自述能力、使用入口与许可边界。

Maxwell-V1-Flash 是维护者 maxwell-model 在 Hugging Face 上发布的一个纯文本因果语言模型,任务类型为 text-generation,采用混合专家(MoE)架构。据项目自述,它的定位是在可接受的推理成本下提供较强的推理、智能体(agentic)与长上下文能力,面向需要处理长文档、多轮对话、工具调用与复杂推理任务的开发者与研究者。需要说明的是,本文所引用的能力描述与规格均来自项目自身的模型卡与说明,属于维护者自述,并非第三方评测结论。

维护者与状态

该项目由 maxwell-model 维护,托管于 Hugging Face。仓库创建时间为 2026-10-13,最后更新时间为 2026-11-14。截至 2026-11-19 的数据读取时间,近 30 天下载量为 1052,点赞数为 229。事实表中未列出该仓库的正式 release 信息,因此这里不对版本发布节奏做任何推断;如需确认最新版本状态,应以仓库页面显示为准。

从时间线看,仓库创建到最近一次更新相隔约一个月,期间有持续的活动记录。点赞与下载数据可以作为关注度的参考,但并不能直接等同于模型质量或生产可用性,读者在评估时应结合自身场景做验证。

主要能力

以下内容整理自项目自述,属于维护者对其设计与训练方式的说明,未经本站独立验证。

  • 稀疏注意力机制。项目称其采用 Maxwell Block Sparse Attention(MBSA),每个 KV 组固定保留 8 个前缀块与 8 个局部 128 token 块,并额外选取最多 16 个远程块,将主注意力计算限制在每 KV 组 4096 token 以内,同时完整历史 KV 缓存仍然可用。项目自述该内核在 256K 长度下比稠密 GQA 更快,但具体倍数属于维护者给出的数字,本文不将其作为独立结论。
  • 流形约束超连接。据项目说明,模型使用多条残差流,并通过学习到的、依赖输入的聚合与受约束混合来拓宽信息流动,而不增加额外的注意力或前馈计算。
  • 细粒度混合专家。主干以 MoE 为主,将细粒度路由专家与常驻的共享专家配对,配合动态路由修正偏置和轻量的序列级负载均衡损失。
  • 多语言分词器。项目称其分词器对多种语言保持紧凑,尤其关注泰语、老挝语、缅甸语、高棉语、掸语等东南亚低资源语言。
  • 长上下文训练。据项目说明,训练分阶段将序列长度从 4K 扩展到 256K,块稀疏注意力在 128K 阶段的中训练中引入,并与主干联合训练。
  • 后训练流程。项目自述采用两阶段全领域 SFT 构建通用、推理与智能体能力,随后通过多条独立强化学习分支覆盖通用任务、可验证推理(数学、科学、逻辑、代码)与智能体任务(搜索、终端使用、函数调用、软件工程),最后用多教师在线策略蒸馏合并为单一模型。

项目说明中还给出了模型规格表,包括 45 层主干、隐藏维度 2048、配置序列长度 262144、查询头 32 与 KV 头 4、头维度 128、词表大小 200704 等。这些数字同样来自维护者自述,本文仅作转述,不构成独立核验。

使用入口

模型的发布地址为 Maxwell-V1-Flash,权重、模型卡与使用说明均以该页面为准。素材中未给出具体的安装命令、推理框架或调用示例代码,因此本文不提供未经确认的部署步骤;实际使用前请先阅读仓库页面上的说明,确认所需的运行环境与加载方式。

从任务类型看,该模型属于文本生成类,适合通过常见的推理框架加载后进行对话、长文档问答或工具调用等任务。但由于素材未说明支持的硬件配置、显存需求与量化方案,本文不对硬件适配性做任何推断。

许可与限制

该仓库的许可证为 apache-2.0,具体条款以仓库中的 LICENSE 文件为准。需要提醒的是,许可证覆盖的是模型仓库本身,使用者在实际部署时仍需自行确认训练数据、第三方组件与下游应用场景的合规要求。

关于已知限制,素材中并未专门列出限制章节,因此这里只能基于已有信息做边界说明:其一,该模型为纯文本模型,项目自述中未提及图像、音频等多模态输入能力;其二,长上下文能力依赖稀疏注意力实现,实际可用的上下文长度与推理框架的支持程度相关,配置序列长度并不等于在所有部署环境下都能稳定达到;其三,项目自述中的评测数字来自维护者内部评测框架,对比对象与评测设置均由维护者选定,读者不宜将其直接外推为通用结论。

此外,本文没有对该模型进行实际运行验证,所有能力描述均为项目自述的转述。对于生产环境选型,建议先在自身数据与任务上做小规模验证,再决定是否采用。