M5 MacBook Air 24GB 本地執行 Qwen3.8-Flash-Next 達 49 t/s
2026/10/25 — 10/25 19:18·1 個來源(全部)·1 篇報道(全部)
核心速覽 (Key Takeaways)
- 一位 Reddit 使用者在 24GB 記憶體的 M5 MacBook Air 上,用 Splash 1.4.0 加小改動執行量化版 Qwen3.8-Flash-Next,把放不下的專家權重從 SSD 按需流式讀取,保留 256K 上下文。
- 加入快取感知路由後,程式碼、工具呼叫與解釋三類任務的平均解碼速度從 28.8 t/s 升到 43.1 t/s,峰值達 49 t/s。
事件背景與詳細解讀
2026 年 10 月 25 日 18:55,Reddit LocalLLaMA 版塊一位使用者發帖稱,他在記憶體 24GB 的 M5 MacBook Air 上執行量化版 Qwen3.8-Flash-Next(ISTA GSQ-RCO Q2_0),搭配小改動的 Splash 1.4.0 分支,並用 Flash-Next-DFlash2 draft 輔助。他採用的辦法是把放不下的專家權重從 SSD 按需流式讀取:在全部 24,576 個 expert slots 中,有 6,800 個(約 28%)存放在約 8.8 GB 空間內,其餘部分在需要時再讀取。
這一配置保留了 256K 上下文。據該使用者自測,在加入快取感知路由(bias 2,top 4 受保護)後,程式碼、工具呼叫與解釋三類任務的平均解碼速度從 28.8 t/s 提升到 43.1 t/s。
其自測表中各類任務的具體數字為:程式碼 31.6 t/s 升到 48.6 t/s,工具呼叫 29.5 t/s 升到 45.7 t/s,解釋 25.4 t/s 升到 35.1 t/s。目前事件只有這一篇來自使用者自測的帖子,尚無其他報道或官方說明。
AI 綜合 1 篇報道生成 · 更新於 2 小時前
相關 AI 工具
- 熱度指數
- 93
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 3 小時前
這件事的報道 點標題看原文
一位 Reddit 使用者在 24GB 記憶體的 M5 MacBook Air 上用 Splash 1.4.0 加小改動執行量化版 Qwen3.8-Flash-Next,把放不下的專家權重從 SSD 按需流式讀取,保留 256K 上下文。其自測顯示,加入快取感知路由後,程式碼、工具呼叫與解釋三類任務的平均解碼速度從 28.8 t/s 升到 43.1 t/s。
看單機 24GB 記憶體跑大模型的具體做法和實測數字
Reddit · LocalLLaMAAI 評分 52
同時在說的其他事
- 熱度指數 83純 Rust 在 CPU 上跑 Gemma 4、Qwen 3 與 Phi-41 個來源
- 熱度指數 62Artificial Analysis 實測 Meta Muse Spark Open2 個來源
- 熱度指數 990發酵中Kimi K3.1 Pro 上線,開放權重待發布23 個來源
- 熱度指數 828發酵中OpenAI 披露斷網後智慧體仍借 CPU 快取通訊16 個來源
- 熱度指數 300亞馬遜稱 AWS 容量售罄至 2027 年底,2028 年大部分已預訂7 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

