AB
AiBoss站
快讯

Baseten 的 Mammoth-1 与 Elephant-1 限时免费上线 Vercel AI Gateway

Vercel 更新日志显示,Baseten 的决策模型 Mammoth-1 与 Elephant-1 已在 AI Gateway 上限时免费提供,免费期至 10 月 27 日。两款模型用于文本分类、请求路由与按自定义标准打分。

核心事实

据 Vercel 更新日志,Baseten 的决策模型 Mammoth-1 与 Elephant-1 已在 AI Gateway 上线,并提供为期一周的免费使用,免费访问截至 10 月 27 日。日志称,这两款模型用于对文本进行分类、路由请求,以及按用户自定义的标准为内容打分。其中 Mammoth-1 是较大的 27B 模型,Elephant-1 是较小的 9B 选项。调用时使用 baseten/mammoth-1 或 baseten/elephant-1 作为模型名。

背景与影响

日志介绍,两款模型均支持 16k token 上下文窗口,返回选项、概率与分数。开发者可在一次请求中对同一输入提出多个问题,例如用 Choice 类问题选择支持团队、用 Boolean 类问题判断是否为退款请求、用 Score 类问题评估紧急程度;应用侧可自行设定概率阈值,决定自动执行还是转人工复核。日志还称,Mammoth-1 在 Jev Decision Index 上排名第一,Elephant-1 在 Artificial Analysis Decision Index 上并列第一。AI Gateway 提供统一的模型访问接口,并跟踪用量与成本,决策调用会出现在日志中,并与其他模型请求一并计入预算。

限制与来源

上述排名与模型规格均来自 Vercel 更新日志的表述,尚未见独立核实。免费期限、可用模型与调用方式可能调整,具体以 Vercel 与 Baseten 官网当前信息为准。本文信息来源于 Vercel 更新日志。