AB
AiBoss
ニュース

微软完成 MAI-Base-2 预训练:总参数 2.8 万亿,仍在后训练

Microsoft AI 公布 MAI-Base-2 已完成预训练,这款 MoE 基础模型总参数 2.8 万亿、激活参数 800 亿。

Microsoft AI 宣布完成自研 MoE 基础模型 MAI-Base-2 的预训练,总参数为 2.8 万亿、每次激活 800 亿。官方称模型目前仍处后训练阶段,将在之后披露更多结果;目前不是面向公众全面上线的成品模型。文中性能比较来自微软自身评测,应按其测试条件理解。

详见Microsoft AI 公告。