本該壓縮 prompt 的最佳化器反而把 prompt 變大
2026/11/22 — 11/22 17:18·1 個來源(全部)·1 篇報道(全部)
核心速覽 (Key Takeaways)
- 開發者復盤 7 月的一次排查:自建上下文壓縮元件在長會話中出現負節省,一次執行輸入 26,461 個 token、輸出 26,798 個,69 次打包中有 21 次反而變大。
- 更嚴重的是,壓縮器在預算壓力下丟掉模型正在使用的檔案讀取結果,導致同一份 5.6 KB 檔案被重複讀取十餘次。
事件背景與詳細解讀
2026 年 7 月,一位開發者在排查中發現問題:其自建的上下文壓縮元件非但沒有縮小 prompt,反而使其變大,該情況在長會話中尤為明顯。直到 2026 年 11 月 22 日 16:50,這位開發者在 DEV Community 的 AI 板塊發文復盤了這次排查,披露了相關執行記錄。
文章給出的一次長會話執行清單顯示,mode=compiler_pack stage=execution budget=47616,輸入 26,461 個 token,輸出卻有 26,798 個,節省值為 saved=-337。在會話 7b3256c2 中,69 次打包裡有 21 次出現負節省,即打包後的結果比打包前更大。作者稱,壓縮器在數天裡一直帶著負號上報節省量,但自家系統裡沒有任何環節去讀取這個符號。文章還提到,更大的代價出在別處:在預算壓力下,壓縮器把模型正在使用的檔案讀取結果丟掉,導致同一份 5.6 KB 檔案被重複讀取十餘次。目前,該復盤停留在對這一現象與執行資料的記錄層面。
AI 綜合 1 篇報道生成 · 更新於 29 分鐘前
- 熱度指數
- 98
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 57 分鐘前
這件事的報道 點標題看原文
一位開發者復盤 7 月的一次排查:自建的上下文壓縮元件在長會話裡出現負節省,一次執行輸入 26,461 個 token、輸出 26,798 個,69 次打包中有 21 次反而變大。更嚴重的問題在於,在預算壓力下,壓縮器把模型正在使用的檔案讀取結果丟掉,導致同一份 5.6 KB 檔案被重複讀取十餘次。
做上下文壓縮時,先確認它有沒有丟掉模型正在用的狀態。
DEV Community · AIAI 評分 58
同時在說的其他事
- 熱度指數 1153發酵中Lean 社群核驗通過 Anthropic 與 Claude 的黎曼猜想證明22 個來源
- 熱度指數 1023發酵中Anthropic 上市次日跌 8.5%,首周市值達 1.6 萬億美元21 個來源
- 熱度指數 487Thinking Machines Lab 開源 Inkling 2 Mini,模型卡推薦 32GB 記憶體10 個來源
- 熱度指數 400SEC 調查輝達會計問題,股價連跌市值縮水9 個來源
- 熱度指數 343爆特斯拉推送 FSD V15,馬斯克稱駕駛能力超人類4 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

