AB
AiBoss
News

Mirendil 发布首个模型 Fern 0.1,上下文窗口达 1000 万 token

AI 研发实验室 Mirendil 发布首个模型 Fern 0.1,主打从零训练的编码模型,上下文窗口最高 1000 万 token,约合 23MB 代码。该模型目前仅提供托管早期访问,未公布开放权重,长上下文检索表现突出,但智能体编码基准明显落后于前沿模型。

Mirendil 推出首个模型 Fern 0.1

据 MarkTechPost 报道,AI 研发实验室 Mirendil 发布了其首个模型 Fern 0.1。这是一款从零训练的编码模型,上下文窗口最高可达 1000 万 token。Mirendil 称,这大约相当于 23MB 代码、约 50 万行,规模接近 Megatron-LM 级别的代码库可一次性载入上下文。Fern 0.1 基于 Mirendil-Base 经过一轮较短的后训练得到,参数规模在 0.1 至 0.5T 之间,具体总数与激活参数未披露。

定位与表现

Mirendil 将 Fern 定位为面向 AI 研发工作而非通用对话,列出六类用途:跨大型代码库工作、运行命令直至测试通过的智能体编码、研究代码(训练循环、数据管线与评估)、依据长日志与堆栈跟踪调试训练、通读完整的智能体或训练轨迹,以及审计预训练数据分片中的重复、污染与垃圾内容。据 Mirendil 公布的数据,基础模型在 RULER 单针检索任务上从 32K 到 1000 万 token 各长度均为 100%,但多跳问答在 1000 万 token 处降至 45%,且该档位仅用 20 个样本。智能体编码方面表现偏弱:Terminal Bench 4.0 得分 6.1%,SWE-Bench Verified 为 73.4%,均落后于表中列出的前沿模型与大型开放权重模型。Mirendil 称 Mirendil-Base 由一名研究员在 3.5 个月内完成预训练,总计算成本低于 1000 万美元,超过 99% 的代码由 AI 智能体编写,训练数据仅来自公开来源。

限制与来源

Fern 0.1 目前仅提供托管早期访问,需通过申请表单获取,尚无公开 API,也未公布定价;官方未宣布开放权重或量化版本,因此暂不可自行部署。许可证信息未披露。上述基准分数部分来自 Mirendil 自建对比表,其他模型数据取自模型卡、排行榜或其自身运行结果,尚未获独立验证。功能、可用地区与访问方式请以 Mirendil 官网当前信息为准。本文来源为 MarkTechPost 报道。