HaiAI123

全球AI工具精选导航

爆行业动态
↑ 113%

分析称 GPT-6 Astra 改权重实为修复推理循环 Bug

2026/11/03 — 11/04 02:18·2 个来源(全部)·2 篇报道(全部)

核心速览 (Key Takeaways)

  • 一篇分析指出,GPT-6 Astra 只改动 0.016% 权重就让数学成绩涨 6 倍,实际是修好了一处推理循环 Bug,并没有给模型增加能力。
  • 文章附上可运行的最小权重编辑代码,并列出三个质疑,帮读者判断这个结果该信几分。

事件背景与详细解读

2026 年 11 月,MIT CSAIL 研究者发布了一项题为《Sparks of Weight-Space Programming》的研究。据 DEV Community 转述,研究显示 GPT-6 Astra 直接读取了 Qwen3.5-0.8B 这一小型开源推理模型的原始权重,找到了由两个 MLP 层写入、导致模型陷入重复循环的一个方向并将其减去。整个编辑涉及十三万一千个数值,仅占 0.016% 的权重,全程没有使用梯度下降、训练数据或微调。在 MATH-500 上,模型成绩从 7.9% 升到 48.1%;在 GSM8K 上,从 13.8% 升到 67.1%;在指令遵循评测 IFEval 上,从 21.0% 升到 62.3%。

2026 年 11 月 3 日晚,掘金上的一篇分析文章围绕这个结果提出不同看法:数学成绩涨了 6 倍,并不是 GPT-6 Astra 给模型增加了能力,而是修好了一处推理循环 Bug。文章附上了可运行的最小权重编辑代码,并列出三个质疑,帮读者判断该结果该信几分。2026 年 11 月 4 日凌晨,DEV Community · AI 又转述了这项 MIT CSAIL 研究的具体方法与数字。目前公开报道中,双方对「改权重是否等同于给模型加能力」仍有分歧,也没有出现后续的复现或官方回应。

AI 综合 2 篇报道生成 · 更新于 4 小时前

最新进展据 DEV Community 转述 MIT CSAIL 研究者 2026 年 11 月发布的研究《Sparks of Weight-Space Programming》,GPT-6 Astra 直接读取 Qwen3.5-0.8B 的原始权重,找到两个 MLP 层写成的、导致模型陷入重复循环的方向并将其减去,只改动了 0.016% 的权重。该模型 MATH-500 从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%,IFEval 从 21.0% 升至 62.3%,全程未使用梯度下降或微调。

相关 AI 工具

24 小时热度热度指数 166 · 峰值 188 · 4 小时前
24 小时前现在

这件事的报道 点标题看原文

今天
  1. 据 DEV Community 转述 MIT CSAIL 研究者 2026 年 11 月发布的研究《Sparks of Weight-Space Programming》,GPT-6 Astra 直接读取 Qwen3.5-0.8B 的原始权重,找到两个 MLP 层写成的、导致模型陷入重复循环的方向并将其减去,只改动了 0.016% 的权重。该模型 MATH-500 从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%,IFEval 从 21.0% 升至 62.3%,全程未使用梯度下降或微调。

    权重空间直接编辑的新路线,或改变对微调的认知

    DEV Community · AIAI 评分 61
昨天
  1. 一篇分析指出,GPT-6 Astra 只改动 0.016% 权重就让数学成绩涨 6 倍,实际是修好了一处推理循环 Bug,并没有给模型增加能力。文章附上可运行的最小权重编辑代码,并列出三个质疑,帮读者判断这个结果该信几分。

    看清权重爆改热帖究竟改了什么

    掘金AI 评分 58

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →