AB
AB
AiBoss站

全部分类

project

Mistral-Large-4-1T - Mistral 迄今最大的万亿参数原生多模态 MoE 模型

Mistral-Large-4-1T 是 mistralai 在 Hugging Face 发布的万亿参数原生多模态混合专家模型，总参数约 1T、每 token 激活约 52B，支持文本与图像输入、100 万 token 上下文与可调推理强度。本文整理其维护状态、项目自述能力、部署入口与许可边界。

Mistral-Large-4-1T 是 mistralai 发布在 Hugging Face 上的一个原生多模态混合专家（MoE）模型，任务类型为 image-text-to-text，即接受文本与图像输入、输出文本。据项目说明，它是 Mistral 迄今规模最大、能力最强的模型：总参数约 1 万亿，每个 token 激活约 520 亿参数（含嵌入与输出层），把指令跟随、推理、编码与智能体工作流统一在同一套权重里。它适合需要长上下文、图像理解、函数调用与结构化输出的场景，也适合关注开放权重多模态模型的研究与工程团队。

维护者与状态

该仓库由 mistralai 维护，创建于 2026-09-30，最后更新于 2026-10-29。截至 2026-10-31 的数据读取时间，仓库近 30 天下载量为 1239，点赞数为 1347。事实表中未列出正式 release 信息，因此这里不对版本发布节奏作额外推断；如需确认最新版本，请以仓库页面为准。模型基于 transformers 框架提供支持。

主要能力

以下内容均来自项目自述（模型卡），属于维护者的自我描述，未经本站独立验证。

  • 架构规模：据项目说明，模型采用细粒度 MoE 结构，包含 128 个路由专家（每 token 激活 4 个）与 1 个共享专家，总参数约 1T、激活参数约 52B。
  • 长上下文：模型卡称其支持 100 万 token 的上下文窗口，面向长文档与长会话类负载。
  • 多模态输入：接受文本与图像输入，采用 Pixtral 风格的视觉编码器，可处理不同尺寸与长宽比的图像；项目自述其在视觉定位（visual grounding）方面表现突出。
  • 推理强度可调：提供 low、medium、high 三档推理强度，默认 high，可按请求切换，用于快速闲聊或复杂智能体任务。
  • 智能体与结构化输出：原生支持函数调用、JSON 输出与严格 JSON Schema 约束。
  • 多语言：项目称其原生流利支持 160 多种语言，包括欧盟全部官方语言。
  • 领域侧重：据模型卡描述，作为通用模型，它在网络安全、金融与法律等工作负载上表现较好，并在拒绝恶意请求的前提下处理安全相关工作。
  • 投机解码：检查点内置 DSpark 投机解码草稿头；另有一个 NVFP4 量化检查点，项目称其内存占用更小、推理更快且性能一致，面向 Blackwell GPU，支持 vLLM 与 SGLang。

模型卡还给出了推荐采样设置：temperature=1.0、top_p=0.95；并建议在智能体场景中写清系统提示、精简工具数量。这些属于项目自述的使用建议，不是本站的实测结论。

使用入口

模型权重与说明文档位于 Hugging Face 仓库：Mistral-Large-4-1T-A52B。

据项目说明，模型可在多种推理与微调框架中部署。推理侧推荐 vLLM，同时也列出 SGLang、transformers 与 llama.cpp；微调侧列出 Axolotl、Unsloth 与 TRL。模型卡给出的 vLLM 部署方式为拉取官方镜像并以 OpenAI 兼容接口启动服务，示例命令如下（摘自模型卡，参数需按实际硬件调整）：

docker pull vllm/vllm-openai:mistral-large-4
docker run --runtime nvidia --gpus all \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  -p 8000:8000 \
  --ipc=host \
  vllm/vllm-openai:mistral-large-4 \
  --model mistralai/Mistral-Large-4-1T-A52B \
  --tensor-parallel-size 8 \
  --tool-call-parser mistral \
  --reasoning-parser mistral \
  --enable-auto-tool-choice \
  --gpu-memory-utilization 0.85

模型卡说明，--tool-call-parser mistral 与 --reasoning-parser mistral 是工具调用与分离推理内容所必需的；若显存不足，可下调 --max-model-len 或 --max-num-seqs。调用侧使用 OpenAI 兼容客户端，通过 reasoning_effort 参数切换推理强度，max_completion_tokens 同时计入推理 token 与可见输出 token。项目还提到模型在 Mistral API 上以 mistral-large-4 名称提供，并建议在本地服务效果不佳时改用该 API。

许可与限制

事实表将许可证标记为 other，即自定义许可，具体条款以仓库 LICENSE 为准。据模型卡自述，该模型采用 Mistral Ecosystem Open-Weight License，是 MIT 许可证的修改版本，允许商业与非商业使用，但若运营 Model-as-a-Service 业务，需要与 Mistral 另行签订商业许可。这一表述来自项目方，使用前应自行核对许可证原文。

已知限制与前置条件方面：模型规模约 1T 参数，本地部署对硬件要求很高，模型卡的 vLLM 示例使用 8 卡张量并行，实际配置需按显存与吞吐需求评估；NVFP4 量化检查点面向 Blackwell GPU。项目自述的基准成绩（如编码智能体指数与综合智能指数得分）均为维护者自行报告，本站未做复现，读者不应将其视为独立评测结果。此外，模型卡中的演示与免费额度安排属于发布期活动，具体可用性以官方页面为准。

返回