AB
AiBoss
News

Hugging Face 发布 Carbon-X:14.8B 开源 DNA 语言模型,DNA 与自然语言同流处理

Hugging Face Bio 发布 14.8B 参数开源 DNA 语言模型 Carbon-X,采用单一解码器同时处理 DNA 与英文文本,权重以 Apache 2.0 发布,可在单张 80GB GPU 上运行。

核心事实

据 MarkTechPost 报道,Hugging Face 已发布 Carbon-X,这是一个参数量为 14.8B 的开源 DNA 语言模型,由 Hugging Face Bio 联合中关村学院(Zhongguancun Academy)与 TIGEM / 那不勒斯费德里科二世大学共同构建。该模型为稠密 decoder-only 架构,基于 Qwen3-14B,上下文长度 40,960 token,权重以 Apache 2.0 许可发布。

与早期需要独立 DNA 编码器的方案不同,Carbon-X 将 DNA 与自然语言放入同一 token 流、由同一解码器处理,并在 Qwen3 的 BPE 词表之外新增 5,515 个 DNA token,其中一个 token 覆盖 6 个碱基对。模型可直接读取原始 DNA 序列并以英文作答,任务涵盖突变致病性判断、调控区标注、物种分类与下一碱基预测。

背景与影响

据模型卡,训练分四阶段:约 10B token 的嵌入预热、302B token 的中期训练、SFT 与两轮异步 GRPO 强化学习。报道称学习率是最难调的参数——过高会学到 DNA 却遗忘英文。Hugging Face 自报其在 5 项 DNA 基准上平均得分 66.7%,BioReason Coding 为 74.9%,NextBase 为 39.4%;IFEval 提示级严格准确率为 79.3%。Apache 2.0 权重意味着实验室可将敏感序列保留在自有 GPU 上。

限制与来源

上述性能数字均为 Hugging Face 自报,尚未获独立验证。报道指出其剪接位点准确率仅 29.8%,且模型未经过临床验证,不应作为医疗或诊断依据。部署方面,官方称可在单张 80GB GPU 上以 bfloat16 通过 vLLM 或 Transformers 运行,GGUF 量化版需较新版本的 llama.cpp;具体硬件要求、可用性与许可条款请以 Hugging Face 官网当前信息为准。本文信息来源为 MarkTechPost 报道及其引述的模型卡与发布博客。