Appearance
权重空间编程是什么?GPT-6 Astra 修改 Qwen 权重实验解读
36 氪在 2026 年 11 月 3 日报道了一项引人注目的实验:MIT CSAIL 研究团队让 GPT-6 Astra 直接检查并修改 Qwen3.5-0.8B 的部分神经网络权重。团队报告称,只改动约 0.016% 的权重后,模型在 MATH-500 上的成绩从 7.9% 升至 48.1%。
但这并不等于 Astra 通过改权重“教会”Qwen数学。研究者追踪到的主要故障是模型反复生成循环内容、耗尽 token 上限;修复循环后,模型才有机会把本来能推导的答案完整写出来。研究者另用很少循环的 Gemma 3 270M 做补充实验,没有证明直接编辑权重能补上它原本缺少的数学推理能力。
原始实验由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 发布在 MIT CSAIL 研究人员的个人研究博客,标题为 Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights。作者称研究仍属早期,并公开了实验日志。本文按原始研究博客和日志解读,36 氪报道作为中文背景参考。
示意图为根据研究流程原创绘制,不是研究团队原图。
什么是权重空间编程
神经网络由大量数值参数(权重)组成。传统训练通常通过数据、损失函数和梯度下降不断更新这些数字。权重空间编程(Weight-Space Programming)则让通用大语言模型直接读取或写入权重,依据自然语言目标理解网络某些部分可能在做什么,再提出修改。
它不意味着完全绕开评估或数据。在 Qwen 实验里,Astra 可以查看从 GSM8K 与 MATH 训练集选取的练习题,并在指定预算内运行模型前向计算;研究限制的是训练循环和梯度信息。相比“模型只看一串数字就神奇变强”,更准确的说法是:模型在一个受控的分析环境中查看参数、提出假设、做局部编辑,再用有限反馈检验。
实验展示了哪三类能力
研究博客组织了八个实验,探索模型能否从网络参数中读出信息、修复特定故障,或直接构造一个小型网络。
读取权重:从参数推断网络行为
在小规模网络实验中,Astra 只根据权重推断网络训练目标:识别几个网格游戏策略网络分别对应什么游戏、判断扩散模型会生成圆形/三角形/正方形,以及从小型 Transformer 中间层识别训练文本语言和部分复制头。
这些实验规模较小,网络结构与任务边界明确,适合作为“权重中存在可读结构”的概念验证。它们还不能说明模型可以仅凭权重读懂任意大型网络的全部行为。
修复权重:先定位具体故障,再局部改动
一个控制任务中,PPO 训练出的汽车策略卡在斜坡前。研究者把网络权重、环境说明和一段失败轨迹交给 Astra;作者报告一次编辑后,修改版在 1,024 次测试中全部成功。这里既有权重,也有运行轨迹与任务描述,不能简化成“只看参数就修好”。
Qwen3.5-0.8B 是最受关注的实验。基础模型在最初 96 条练习回答中,有 85 条生成到 32,768 token 上限仍未完成,表现为重复循环。Astra 将问题关联到第 15 和第 19 层 MLP 写入的一个方向,对每层 64 个输出列做了减去该方向的修改,共涉及 131,072 个权重,约占模型 8 亿权重的 0.016%。
| Qwen3.5-0.8B 设置 | MATH-500 | GSM8K | IFEval | MATH-500 触及 token 上限 |
|---|---|---|---|---|
| 基础模型 | 7.9% | 13.8% | 21.0% | 93.0% |
| Astra 编辑,10 次前向预算 | 12.3% | 25.7% | 49.0% | 87.2% |
| Astra 编辑,25 次前向预算 | 14.1% | 25.1% | 39.9% | 86.4% |
| Astra 编辑,50 次前向预算 | 48.1% | 67.1% | 62.3% | 33.1% |
表格数值均为研究者报告。50 次前向预算下提升最明显;10 次与 25 次预算的循环比例仍很高,结果并非“改几个参数立刻稳定提升”。MATH-500、GSM8K 和 IFEval 的评测集没有提供给 Astra,但研究流程使用了从训练集抽取的练习题和有限前向反馈。
最关键的对照是 Gemma 3 270M:它本来很少陷入循环,Astra 的权重编辑并未让其 MATH-500 成绩出现研究者认为可信的提升。作者的解释是,修复一个阻碍能力表达的故障,不等于凭空创造模型没有的推理能力。
从零写权重:把一个小程序编进网络
在 MinAtar 游戏实验里,Astra 根据规则与网络结构直接生成权重;作者报告生成网络超过训练 1 亿步的 PPO 基线。在 9×9 围棋实验中,网络规模约 148 万权重,Astra 在 Python 环境里按层构造策略网络,并通过受限的对局反馈迭代。这里展现的是把明确规则转成网络计算的能力,不能直接外推到任意规模的通用模型训练。
这项结果意味着什么,又不意味着什么
权重空间编程有研究价值,因为它把“读模型参数、提出可解释假设、尝试定点修改”串进了一个模型驱动流程。如果未来能在更多架构、任务和独立团队中复现,它可能成为模型诊断、机制可解释性和局部修复的研究工具。
现阶段有几条边界必须同时记住:
- 论文是研究团队发布的早期实验博客,不是成熟产品说明,也不是同行评审论文。
- 目前结果依赖特定模型、提示、Python 工具环境、练习题与有限前向预算;作者明确提到上下文长度和 harness 效率仍是限制。
- 0.016% 描述改动权重的数量占比,不代表修改无风险、结果可稳定复现或模型其他能力完全不受影响。
- Qwen 的数学分数上涨主要与循环问题缓解相关;Gemma 补充实验提醒我们,局部编辑未必能创造新的底层能力。
- 公开日志有助于审查和复现,但仍需独立团队采用相同评测设置重跑,并检查更广泛的能力回归、安全性和鲁棒性。
如果要验证这项研究,应先从作者的原始博客与完整实验日志入手,确认模型版本、采样参数、预算、代码和评测过程。评估权重修改时还应比较多随机种子、多个任务和未参与编辑的基准,并保存未修改权重以便回滚。
阅读这类英文研究时,可以使用 AIMI 或 AICNBOX 帮助整理术语、翻译段落或对照不同模型的解释;关键结论、数字和实验限制应回到原始博客与公开日志核验,不能把模型生成的摘要当作证据。
常见问题
权重空间编程和模型微调有什么区别?
权重空间编程是让通用语言模型直接分析、编写或局部修改目标网络参数;微调通常用训练样本、损失函数和优化器(常见为梯度下降)更新参数。该研究的 Qwen 测试仍使用练习题和有限前向反馈,但没有训练循环或梯度更新。
GPT-6 Astra 把 Qwen 的 MATH-500 提高到 48.1%,代表模型学会数学了吗?
不能据此得出“模型获得了新的数学能力”。研究团队认为,Qwen 原先大量回答陷入重复循环,修改主要缓解这一故障,让模型能完成更多答案;在很少循环的 Gemma 3 270M 上,实验没有证明数学能力显著提升。
Astra 修改 Qwen3.5-0.8B 的多少权重?
研究报告修改了 131,072 个权重,约占模型 8 亿权重的 0.016%。修改规模很小不等于改动自动安全或没有副作用,仍需独立评测和回归测试。
权重空间编程实验完全没有使用数据或模型反馈吗?
不是所有实验都没有反馈。部分小网络实验禁止前向计算;Qwen 实验则允许 Astra 从训练集选择练习题,并在 10、25 或 50 次预算内做前向计算,但不给梯度和训练循环。最终评测使用未提供给 Astra 的测试集。
权重空间编程现在可以用于生产模型吗?
研究者将结果定位为早期探索,当前缺少跨模型和独立团队验证。生产环境直接改写权重可能引入难以预料的行为变化;目前应在隔离副本上评估、保存原始权重,并进行多任务安全测试,不应直接覆盖线上模型。
参考资料
- 36 氪报道:MIT让GPT-6 Astra直接修改Qwen权重,数学成绩飙升
- 研究团队原文:Sparks of Weight-Space Programming
- 作者公开实验日志:RikiyaT/lm_understand-logs