Cmpnd 发布 dspy-wsp：把权重空间编程接入 DSPy

Cmpnd 发布 dspy-wsp，把权重空间编程接入 DSPy

Cmpnd 发布了原型优化器 dspy-wsp，将「权重空间编程」引入 DSPy。按该项目的描述，这一思路是让前沿大模型读取另一个模型的权重并直接改写，过程中不使用梯度、不设训练循环，也不需要微调数据集。dspy-wsp 将其封装为 WeightSpace 优化器，可接入任意 DSPy 程序与指标。项目采用 MIT 许可证，可通过 pip 安装，要求 DSPy 3.5。

背景与影响

据 Cmpnd 介绍，其测试覆盖 0.6B 至 9B 参数的开源决策模型，一次 25 轮（pass）的运行只改动单个层或注意力头。官方给出的成本区间为每次运行约 5.42 至 7.63 美元，耗时 78 至 167 分钟。在 Typed Decisions 基准上，单独使用 WeightSpace 带来 1.9 至 16.1 个百分点的提升，叠加此前的 ReAnchor 优化器后为 6.5 至 20.0 个百分点；其中 d1-omni-600M 从 50.9% 升至 69.1%，而 9B 的 Clef-Flash 单独使用仅提升 1.9 个百分点。Cmpnd 也说明，若按原论文更严格的规则（关闭 simulate_head），d1-omni-600M 仅提升 2.8 个百分点。该思路源自 MIT 的「Sparks of Weight-Space Programming」研究，研究团队强调这是一种正在形成的能力，而非固定方法。

限制与来源

Cmpnd 自述该方法仍非常实验性、速度慢，且在较大模型上效果最弱；上述数字均来自其自身测试与结果说明，尚未见独立复现。写作模型的选择影响明显，官方推荐使用 gpt-6-astra 并以最高推理强度运行。编辑后的权重以补丁形式保存，含改动条目与张量哈希，可基于公开基础模型重建。具体支持的模型、部署方式与费用请以项目仓库和官网当前信息为准。本文依据 MarkTechPost 报道及 Cmpnd 公布的材料整理。