MIT 提出權重空間程式設計,用 GPT-6 Astra 改寫 Qwen3.5-0.8B 權重
2026/11/03 — 11/03 10:18·3 個來源(全部)·3 篇報道(全部)·入選 11-03 日報
核心速覽 (Key Takeaways)
- MIT CSAIL 研究者提出「權重空間程式設計」,讓 GPT-6 Astra 直接讀取並修改 Qwen3.5-0.8B 的權重,僅調整約 0.016% 的引數,就把該模型在 MATH-500 上的成績從 7.9% 提到 48.1%,全程未用梯度下降或傳統訓練迴圈。
- 研究者稱關鍵不是隨機改引數,而是先定位模型在數學推理上的迴圈問題。
- 量子位報道稱數學能力提升 6 倍、指令執行能力同步提升,但未提供論文細節或實驗設定。
事件背景與詳細解讀
2026 年 11 月 2 日,MIT CSAIL 研究者 Rikiya Takehi 在個人部落格釋出一項名為「權重空間程式設計」(Weight-Space Programming)的研究,核心思路是讓大語言模型直接讀取、理解和修改另一個神經網路的權重,而不是通過常規訓練流程調整引數。同日,相關討論出現在 Hacker News,摘要稱 Astra 能直接讀寫模型權重、在權重空間裡改進 Qwen,而不只靠微調或提示詞,原帖獲 630 點、182 條評論,討論集中在方法能否復現、對權重的改動是否穩定。
11 月 3 日,量子位報道稱 MIT 一項研究顯示 GPT-6 Astra 能夠直接修改 Qwen 的模型權重,數學能力提升 6 倍,指令執行能力也同步提升,但材料未提供論文細節或實驗設定;同日 IT 之家補充了更具體的實驗資料:由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 共同完成的這項研究,讓 OpenAI 的 GPT-6 Astra 直接分析並修改阿里雲通義千問熱門模型 Qwen3.5-0.8B 的神經網路權重,僅調整約 0.016% 的引數,就將該模型在 MATH-500 數學基準測試中的成績從 7.9% 提升至 48.1%,達到原來的約 6.1 倍,且整個過程沒有使用梯度下降或傳統訓練迴圈。此外,GPT-6 Astra 並不是簡單隨機調整少量引數,而是先定位 Qwen3.5-0.8B 在數學推理上的迴圈問題,該模型容易在回答數學問題時反覆生成同類步驟。
關於所涉模型,三篇報道的說法並不完全一致:Hacker News 摘要只提到改進 Qwen,量子位表述為修改 Qwen 的模型權重,IT 之家則具體到 Qwen3.5-0.8B。目前公開資訊停留在 11 月 3 日的部落格釋出與媒體報道階段,材料未提供論文細節或實驗設定。
AI 綜合 3 篇報道生成 · 更新於 1 小時前
最新進展MIT CSAIL 研究者提出「權重空間程式設計」,讓 OpenAI 的 GPT-6 Astra 直接讀取並修改 Qwen3.5-0.8B 的權重,僅調整約 0.016% 的引數,就把該模型在 MATH-500 上的成績從 7.9% 提到 48.1%,全程未用梯度下降或傳統訓練迴圈。研究者稱關鍵不是隨機改引數,而是先定位模型在數學推理上的迴圈問題。
相關 AI 工具
- 熱度指數
- 269
- 全部來源
- 3
- 全部報道
- 3
- 首報
- 9 小時前
這件事的報道 點標題看原文
MIT CSAIL 研究者提出「權重空間程式設計」,讓 OpenAI 的 GPT-6 Astra 直接讀取並修改 Qwen3.5-0.8B 的權重,僅調整約 0.016% 的引數,就把該模型在 MATH-500 上的成績從 7.9% 提到 48.1%,全程未用梯度下降或傳統訓練迴圈。研究者稱關鍵不是隨機改引數,而是先定位模型在數學推理上的迴圈問題。
一種不靠訓練、由模型直接改權重的調優思路
IT之家AI 評分 68據量子位報道,MIT 的一項研究顯示,GPT-6 Astra 能夠直接修改 Qwen 的模型權重,數學能力提升 6 倍,指令執行能力也同步提升。材料未提供論文細節或實驗設定。
關注模型權重跨模型修改的新能力
量子位AI 評分 62一篇技術部落格介紹的方法 Astra 聲稱能直接讀取和寫入模型權重,在權重空間裡改進 Qwen,而不是隻靠微調或提示詞。該帖在 Hacker News 獲 630 點、182 條評論,討論集中在方法能否復現、對權重的改動是否穩定。
瞭解權重級改造這條路是否真能替代微調
Hacker News · 热榜AI 評分 60
同時在說的其他事
- 熱度指數 98新OpenAI 疑似灰度測試 GPT-6.2 Astra,Codex 統計現獨立標識1 個來源
- 熱度指數 71使用者利用 Qwen 3.8 27B 與程式設計代理開發桌面發票應用1 個來源
- 熱度指數 67開源社群推出 Qwenputer:實驗性 Qwen 3.5 權重內嵌 RISC-V CPU 並執行 DOOM1 個來源
- 熱度指數 74Qwen 負責人稱 Qwen 4.0 與 5.0 將繼續開源1 個來源
- 熱度指數 57OpenAI 隨 GPT-6 更新提示快取,快取讀取降價 90%1 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

