capy-flash v0.7.1 讓 125B MoE 跑在 64GB 記憶體
2026/10/22 — 10/22 22:19·1 個來源（全部）·1 篇報道（全部）
核心速覽 (Key Takeaways)
- 開發者釋出開源推理引擎 capy-flash v0.7.1，可在 64GB 記憶體加一到兩張 16GB 消費級顯示卡上執行 Qwen3.8-Flash-Next（125B MoE），雙卡約 234 tok/s。
- Qwen3.8-27B 的 3-bit 版本可單張 16GB 卡執行、約 174 tok/s，量化權重沿用 ISTA-DASLab 的 GSQ-RCO 方案，未重新量化。
事件背景與詳細解讀
2026 年 10 月 22 日，開發者在 Reddit 的 LocalLLaMA 板塊釋出開源推理引擎 capy-flash v0.7.1，稱其可在 64GB 記憶體搭配一到兩張 16GB 消費級 RTX 50 顯示卡的環境下執行 Qwen3.8-Flash-Next（125B MoE）。據該帖說明，此前執行這一模型需要雙卡 16GB 加 96GB 記憶體或更高的配置，v0.7 系列則面向更小的機器，使用者可以從現有硬體起步、之後再增加第二張顯示卡，引擎與模型檔案保持不變。
效能方面，帖子給出的數字是雙卡下約 234 tok/s；Qwen3.8-27B 的 3-bit 版本可單張 16GB 顯示卡執行，約 174 tok/s。量化權重沿用 ISTA-DASLab 的 GSQ-RCO 約 3-bit 方案，按原樣複製、未重新量化。目前資訊僅來自這一篇釋出帖，後續進展尚未見報道。
AI 綜合 1 篇報道生成 · 更新於 14 小時前
最新進展開發者釋出開源推理引擎 capy-flash v0.7.1，可在 64GB 記憶體加一到兩張 16GB 消費級顯示卡上執行 Qwen3.8-Flash-Next（125B MoE），雙卡下約 234 tok/s。Qwen3.8-27B 的 3-bit 版本可單張 16GB 卡執行，約 174 tok/s。量化權重沿用 ISTA-DASLab 的 GSQ-RCO 約 3-bit 方案，未重新量化。
相關 AI 工具
- 熱度指數
- 66
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 14 小時前
這件事的報道 點標題看原文
開發者釋出開源推理引擎 capy-flash v0.7.1，可在 64GB 記憶體加一到兩張 16GB 消費級顯示卡上執行 Qwen3.8-Flash-Next（125B MoE），雙卡下約 234 tok/s。Qwen3.8-27B 的 3-bit 版本可單張 16GB 卡執行，約 174 tok/s。量化權重沿用 ISTA-DASLab 的 GSQ-RCO 約 3-bit 方案，未重新量化。
想在消費級顯示卡上跑大 MoE 的可參考這套配置。
Reddit · LocalLLaMAAI 評分 59
同時在說的其他事
- 熱度指數 30開發者六路評測 Qwen3.8-Flash-Next 與 Opus 5.5 的 Rust 編碼表現1 個來源
- 熱度指數 152爆千問釋出 AI 眼鏡 N1 Pro 與 AI 耳機並同日開售2 個來源
- 熱度指數 80Reddit 網友對比 11 個開放權重模型的得分與引數量1 個來源
- 熱度指數 80Qwen API 各模型每百萬 token 價格對比清單1 個來源
- 熱度指數 42使用者實測 Qwen3.5-4B 在 10 種 Agent 框架下的失敗模式1 個來源
熱度怎麼算的？瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算：同一個來源發多條只算一次，並按 24 小時半衰期衰減，所以排前面的是很多人在說的事。
本頁彙總公開訂閱源，標題與摘要由模型整理，版權歸原作者所有；重要資訊請回原文核對。如權利人認為相關標題或摘要侵權，請通過頁尾聯絡郵箱提供具體頁面與權利依據，我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加