AB
AiBoss
News

StepFun 开源 Step 5 Preview:600B MoE、27B 激活、1M 上下文

StepFun 以开放权重形式发布 Step 5 Preview,采用 600B 总参数、每 token 激活 27B 的稀疏 MoE 架构,支持最高 1M token 上下文,FP8 与 BF16 检查点已上线 Hugging Face 与 ModelScope。

StepFun 开放 Step 5 Preview 权重

据 MarkTechPost 报道,StepFun 已以开放权重形式发布 Step 5 Preview。该模型为稀疏混合专家(MoE)架构,总参数 600B,每个 token 激活 27B,上下文长度最高 1M token。FP8 与 BF16 检查点已上线 Hugging Face 和 ModelScope,采用 StepFun Model License 1.0。报道称其 API 于 9 月 20 日上线,权重随后于 10 月 14 日放出。

面向长程智能体任务

StepFun 将该模型定位为面向智能体工作的旗舰模型,适用场景包括软件工程、专业知识工作与金融。按报道描述,模型可在大规模代码库中导航、协调多文件改动、运行代码并迭代结果,也能分析长文档、图表、截图与视频并生成结构化报告。架构上采用 92 层窄而深的设计,门控滑动窗口注意力与全注意力层按 3:1 交错,并配有 MTP-3 投机解码头。硬件方面,报道称这是数据中心级模型,FP8 检查点约 650.32 GB,最小自托管配置为 4 块 B300 或 8 块 H200。基准测试中,StepFun 自报 DeepSWE v1.1 为 67.7、Terminal-Bench 4.0 为 33.3;Artificial Analysis 独立数据显示 AA-LCR 为 88.3%、Intelligence Index 为 43.7。

限制与来源

需注意,上述对比数据多来自 StepFun 自行评测,且其高推理设置与竞品的最高努力档位并不对等,报道明确称比较并非同口径。Vals AI 结果显示该模型在 SRE Bench(0.4%)与 Harvey 法律智能体基准(9.2%)上表现偏弱。报道还提到,Transformers 路径目前仅支持离线生成,完整 BF16 分片流程尚未端到端验证。API 定价、可用地区与许可条款以 StepFun 官网及模型卡当前信息为准。本文信息来自 MarkTechPost,相关性能与配置细节尚未获 StepFun 官方逐项确认。