AB
AiBoss站
快讯

vLLM Semantic Router 发布 d3-ultra:27B 开源多模态决策模型

vLLM Semantic Router 团队发布 d3-ultra,一个 27B 参数、Apache-2.0 许可的多模态决策模型。它不生成文本,而是对输入一次性读取后,为每个问题返回概率,可用于路由、分类、视觉定位与视频检查。团队自测显示其 SR-Text 得分 87.2,但在图像框选任务上略逊于同系列 d3-turbo。

核心事实

据 MarkTechPost 报道,vLLM Semantic Router 团队发布了 d3-ultra,一个 27B 规模的多模态决策模型,权重以 Apache-2.0 许可开放。该模型不生成文本:它一次性读取输入(文本、JSON,以及图像或视频),然后针对每个问题返回概率。问题类型包括选择、是/否、打分、图像或视频片段定位(Box)以及视频目标跟踪(Track)。

据素材,模型为 26.09B 参数的稠密结构,含 0.46B 视觉编码器,每个问题的上下文长度为 131,072 tokens;超出该长度会以 max_length_exceeded 报错,而非静默截断。官方测试环境为单张 AMD Instinct MI325X、BF16 权重,暂未列出官方量化版本。

背景与影响

d3-ultra 属于 Decision 3.0 系列,该系列覆盖 0.6B 至 27B。团队在两项内部测试中将其与 GLiDE V1.2、d1-ultra、d3-turbo、d3 和 Jev 1.14 对比:SR-Text 上 d3-ultra 得 87.2,高于 GLiDE V1.2 的 85.1;SR-Box 上得 58.2%(10 个领域)与 54.6%(9 个领域),低于 d3-turbo 的 60.0% 与 59.6%。团队称 d3-turbo 在自然图像上更强,d3-ultra 在图表上领先。延迟方面,单张照片单个问题约 304 ms,255 个问题约 2.16 s。

部署途径包括 Transformers 的 AutoModel.from_pretrained、vLLM Semantic Router Engine 的 vllm-sr serve -e,以及素材提到的免费托管 API 与 Hugging Face Space 演示。具体可用性、配额与许可条款请以官网及模型卡当前信息为准。

限制与来源

上述性能数字均为团队在自有私有测试集上的自报结果,尚未经第三方独立复现;公开榜单状态据素材为「已提交、尚未上榜」。模型卡未说明其基础检查点来源。本文信息来自 MarkTechPost 报道,细节以官方模型卡与代码仓库为准。