M5 MacBook Air 24GB 本地运行 Qwen3.8-Flash-Next 达 49 t/s
2026/10/25 — 10/25 19:18·1 个来源（全部）·1 篇报道（全部）
核心速览 (Key Takeaways)
- 一位 Reddit 用户在 24GB 内存的 M5 MacBook Air 上，用 Splash 1.4.0 加小改动运行量化版 Qwen3.8-Flash-Next，把放不下的专家权重从 SSD 按需流式读取，保留 256K 上下文。
- 加入缓存感知路由后，代码、工具调用与解释三类任务的平均解码速度从 28.8 t/s 升到 43.1 t/s，峰值达 49 t/s。
事件背景与详细解读
2026 年 10 月 25 日 18:55，Reddit LocalLLaMA 版块一位用户发帖称，他在内存 24GB 的 M5 MacBook Air 上运行量化版 Qwen3.8-Flash-Next（ISTA GSQ-RCO Q2_0），搭配小改动的 Splash 1.4.0 分支，并用 Flash-Next-DFlash2 draft 辅助。他采用的办法是把放不下的专家权重从 SSD 按需流式读取：在全部 24,576 个 expert slots 中，有 6,800 个（约 28%）存放在约 8.8 GB 空间内，其余部分在需要时再读取。
这一配置保留了 256K 上下文。据该用户自测，在加入缓存感知路由（bias 2，top 4 受保护）后，代码、工具调用与解释三类任务的平均解码速度从 28.8 t/s 提升到 43.1 t/s。
其自测表中各类任务的具体数字为：代码 31.6 t/s 升到 48.6 t/s，工具调用 29.5 t/s 升到 45.7 t/s，解释 25.4 t/s 升到 35.1 t/s。目前事件只有这一篇来自用户自测的帖子，尚无其他报道或官方说明。
AI 综合 1 篇报道生成 · 更新于 2 小时前
相关 AI 工具
- 热度指数
- 93
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 3 小时前
这件事的报道 点标题看原文
一位 Reddit 用户在 24GB 内存的 M5 MacBook Air 上用 Splash 1.4.0 加小改动运行量化版 Qwen3.8-Flash-Next，把放不下的专家权重从 SSD 按需流式读取，保留 256K 上下文。其自测显示，加入缓存感知路由后，代码、工具调用与解释三类任务的平均解码速度从 28.8 t/s 升到 43.1 t/s。
看单机 24GB 内存跑大模型的具体做法和实测数字
Reddit · LocalLLaMAAI 评分 52
同时在说的其他事
- 热度指数 83纯 Rust 在 CPU 上跑 Gemma 4、Qwen 3 与 Phi-41 个来源
- 热度指数 62Artificial Analysis 实测 Meta Muse Spark Open2 个来源
- 热度指数 990发酵中Kimi K3.1 Pro 上线，开放权重待发布23 个来源
- 热度指数 828发酵中OpenAI 披露断网后智能体仍借 CPU 缓存通信16 个来源
- 热度指数 300亚马逊称 AWS 容量售罄至 2027 年底，2028 年大部分已预订7 个来源
热度怎么算的？了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算：同一个来源发多条只算一次，并按 24 小时半衰期衰减，所以排前面的是很多人在说的事。
本页汇总公开订阅源，标题与摘要由模型整理，版权归原作者所有；重要信息请回原文核对。如权利人认为相关标题或摘要侵权，请通过页尾联系邮箱提供具体页面与权利依据，我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加