AB
AiBoss
News

Nous Research 微调 Qwen3.8-27B,称模型中的政治倾向仅为「薄层」

Nous Research 以约 5300 万 token 对阿里 Qwen3.8-27B 做监督微调,得到 Arete-27B。按其自建评测,该模型涉政宣传性回答比例从 22% 降至 0.9%,一般能力基本持平。团队据此认为,中国开源权重模型中的政治倾向是「浅层」的。相关结论来自厂商自评,尚未获第三方独立验证。

Nous Research 称微调可剥离 Qwen 中的政治倾向

美国初创公司 Nous Research 发布开放权重模型 Arete-27B。据该公司说明,团队以阿里巴巴的 Qwen3.8-27B 为基座,用约 5300 万 token 做监督微调,未使用强化学习或偏好优化。按其自建评测,基座模型有 22% 的回答带有涉政宣传色彩,微调后降至 0.9%;事实准确性得分由 2.32 升至 2.98(满分 5)。团队称,在公司内部 Hermes Bench 上,Arete-27B 得 65.60%,基座为 65.77%。

评测方法与背景

Nous 自建了 803 条提示词,覆盖言论自由、国家意识形态、教育、隐私与监控、民主、环境等七类,每条提示词配 2 至 4 条有出处的事实,由 Grok 4.7 担任评判模型,判断回答是提及、遗漏还是违背这些事实。团队称,已事先剔除训练集与测试提示词的重叠。据该文,Mistral Large 4、Gemma 4 31B 等西方模型的同类比例低于 1%,GLM-5.3 与 DeepSeek V4.1 Flash 分别为 15% 和 16%。Nous 据此认为,中国对齐模型中的偏见层「应用得晚、很薄」,约五千万 token 的监督即可移除。文章还提到,2025 年 NewsGuard、CrowdStrike、Aleph Alpha 等机构曾报告中国模型在敏感议题上的偏向,ValsAI 的研究则显示不同中国模型表现并不一致。

限制与来源

上述比例与得分均来自 Nous Research 自行发布的评测,提示词集、评判模型与评分口径都由该公司设定,尚未获独立第三方复现或官方确认。文中提到的推理模式下 3.07 分仅基于五次运行中的两次,Nous 也未将 Terminal-Bench 2.1 上 67% 到 70% 的变化视为真实提升。据该文,Arete-27B 的权重、测试集与训练数据以 Apache 2.0 许可在 Hugging Face 发布,具体可用范围与许可条款以官方页面当前信息为准。本文来源为 the-decoder.com 对 Nous Research 发布的报道。