AB
AiBoss
ニュース

Nace AI 开源 Drex Max v1:27B 决策模型可在 Apple Silicon 本地运行

Nace AI 以开放权重形式发布 27B 决策模型 Drex Max v1,提供 bf16、Q8_0 GGUF 与 affine Q4 权重及 llama.cpp、Ollama 分支,可在 Apple Silicon Mac 与 CPU 上本地推理。

核心事实

Nace AI 已以开放权重形式发布其决策模型 Drex Max v1。据 MarkTechPost 报道,该模型为稠密 27B 参数架构,配置 262,144 位置窗口(默认 16,384),单次前向即可为每个选项输出概率,而非逐字生成文本。发布物包括 bf16 权重、Q8_0 GGUF、affine Q4 检查点,以及 llama.cpp 与 Ollama 的分支版本,权重许可为 Nace.AI Open RAIL-M。

背景与影响

决策模型面向的是智能体路由、工单分类与策略校验等场景,输出的是选项概率而非自由文本。Nace AI 称,本地部署可让这类判断留在自有硬件上。按素材列出的运行方式,Python 路径面向 NVIDIA GPU,llama.cpp 与 Ollama 分支支持 Apple Metal 与 CPU,Kapitsa 与 MLX 面向 Apple Silicon;affine Q4 版本面向 24 GB 及以上内存的 Mac,Q8_0 GGUF 需要 48 GB。素材同时注明,Mac 与 CPU 本地路径目前仅支持文本。性能方面,Nace AI 自报 Decision Index 0.4 得分为 67.52,高于 Drex v2.0 的 61.25;Artificial Analysis Decision Index 为 64。上述数字均为厂商自报,尚未获独立验证。

限制与来源

需要说明的是,该报道标注为 Nace AI 赞助内容,基准成绩、量化误差对比(如在 48 GB 的 M5 Pro 上 Q8_0 与 H100 bf16 的差异)均出自厂商测试,不宜直接外推。托管 API 价格、各运行时可用性与硬件门槛可能调整,请以 Nace AI 官网与模型卡当前信息为准。本文不构成采购或投资建议。来源:MarkTechPost。