AB
AiBoss
News

中国电信开源Xing4.0-29B-A4B,29B参数每Token激活4B

中国电信人工智能科技有限公司发布并开源Xing4.0-29B-A4B模型,采用MoE架构,总参数29B、每Token激活4B,原生支持256K上下文并可扩展至512K。

中国电信人工智能科技有限公司发布Xing4.0-29B-A4B,并在Hugging Face与GitHub公开模型权重、配置和使用文档。官方模型卡显示,该模型采用MoE架构,总参数量29B,每个Token激活4B参数。

Xing4.0原生支持256K上下文,可扩展至512K,并兼容Transformers、vLLM、SGLang与KTransformers等推理框架。项目采用Apache 2.0许可;官方还提供面向昇腾910C与MindSpore/MindFormers的训练和评测指南。

来源:XingChen-AGI on Hugging Face