AB
AiBoss
ニュース

社区讨论「权重空间编程」:用 LLM 直接读写模型权重

OpenAI 开发者社区出现一则讨论帖,称 MIT 研究者用 Astra 直接读取和编辑模型权重,无需优化或反向传播,并以 Qwen3.5-0.8B 为例称其数学能力得到改善。相关说法来自社区转述,尚待原始报告与官方确认。

社区帖称 LLM 可直接读写模型权重

OpenAI 开发者社区出现一则题为《Weight Space Programming(或如何用 LLM 直接写 LLM 权重)》的讨论帖。发帖者称,MIT 的研究者使用 Astra 直接读取和编辑模型权重,过程中不涉及优化或反向传播,仅通过 Python 读写权重。帖中将其类比为「手工直接读写 ELF 二进制文件」。发帖者还举例称,Astra 通过直接编辑权重,使已有模型 Qwen3.5-0.8B 在数学方面表现更好。

背景与潜在影响

发帖者自己也承认,直接修改权重并非全新能力,过去已有类似做法;其认为新意在于模型执行这类操作的熟练程度,以及可能达到的规模。若该方向成立,模型适配可能不再完全依赖训练流程,而是转向对权重本身的定向编辑。不过帖中未给出方法细节、评测设置或可复现步骤,相关效果目前仅为社区转述。

限制与来源

上述内容来自 OpenAI 开发者社区的一则用户帖,属于二手描述,尚未获官方确认,也未在素材中提供原始论文的完整数据。帖中提到的模型名称、能力改善幅度与适用范围均应以原始报告和官方发布信息为准。该帖附有报告链接,标题为《Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights》,建议读者自行核对原文。