AB
AiBoss站
快讯

腾讯发布Hy4 preview并开放模型权重

腾讯Hy团队发布Hy4 preview,采用7700亿总参数、每token激活490亿参数的MoE架构,支持100万token上下文,并开放标准与FP8权重。

腾讯Hy团队发布Hy4 preview,并开放标准版与FP8版模型权重。该模型采用混合专家架构,包含7700亿总参数,每个token激活490亿参数,支持100万token上下文。

项目采用Apache 2.0许可证。团队同时强调这仍是早期预览版本,已公开已知局限,官方评测结果也应按厂商自测理解。

参考:腾讯Hy研究页、官方GitHub仓库