AB
AiBoss
News

Baseten 发布 joey-1:2B 决策模型,每百万输入 token 定价 0.01 美元

Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1,输出标签与校准概率而非生成文本,面向高并发路由、分类与护栏检查,MIT 权重已在 Hugging Face 公开。

核心事实

Baseten 旗下研究团队 Base Labs 发布决策模型 joey-1。据 MarkTechPost 报道,该模型参数量为 2B,由 Qwen3.5-2B 后训练而来,输出的是标签与校准后的概率,而非自由生成的文本,主要面向高并发的请求路由、分类与护栏检查场景。Baseten 给出的 API 价格为每百万输入 token 0.01 美元,权重以 MIT 许可在 Hugging Face 公开。

据模型卡信息,joey-1 支持 choice、yes/no、score 三类问题,所有问题共享一次前缀预填充,因此增加问题带来的额外开销较小。训练数据为 621 万条决策样本,目标函数为交叉熵加 Brier 校准项,并设有可训练的「我不知道」选项。

背景与影响

joey-1 是 Baseten 决策模型家族的第三个成员,此前已发布 27B 的 mammoth-1 与 9B 的 elephant-1,三者共用训练数据与 /v1/systemone 接口,切换只需改动一行。Baseten 自报 joey-1 在 Jev Decision Index 0.4 公开集上得分 63.30,为 4B 以下最高,但在同一数据集上落后 elephant-1 8.94 分。Baseten 还报告平均 2000 token 请求的 P50 端到端延迟为 20 毫秒。校准概率可用于设置置信阈值,把不确定的请求升级到更大模型或人工处理。

限制与来源

上述性能与延迟数字均为 Baseten 自行报告,不同厂商的延迟测量方式不可直接比较;官方未列出量化版本,自托管需一块 CUDA GPU,显存要求未披露。价格、上下文长度与可用渠道请以 Baseten 官网及模型卡当前信息为准。本文信息来自 MarkTechPost 报道,相关指标尚未获独立第三方确认。