HaiAI123

全球AI工具精选导航

行业动态
持平

Reddit 网友实测 M4 Pro 与 M5 Pro 运行 Qwen3.8-Flash-Next 性能

2026/11/09 — 11/11 23:20·1 个来源(全部)·2 篇报道(全部)

核心速览 (Key Takeaways)

  • 据 Reddit 用户测试,在 M4 Pro 与 M5 Pro 统一内存设备上使用 MoEShift 后端运行 Qwen3.8-Flash-Next 125B 模型时,M5 Pro 在长提示词处理上展现出显著更高的预处理和解码速度。

事件背景与详细解读

据 Reddit LocalLLaMA 版块一篇帖子(发布于 2026 年 11 月 9 日 20:10),一位用户在 2 台统一内存为 24 GB 的 Mac 上,用 MoEShift 后端实测了 ISTA-DASLab 量化的 Qwen3.8-Flash-Next 125B(GSQ-RCO IQ3_XXS,磁盘占用 76 GB)。测试结果取 3 次运行的中位数:短提示词解码(72 个输入 token)环节,M4 Pro 为 9.84 tok/s,M5 Pro 为 14.69 tok/s;长提示词预填充(6,060 个输入 token)环节,M4 Pro 为 199.09 tok/s,M5 Pro 为 374.15 tok/s;长提示词解码(512 个输出 token)环节,M4 Pro 为 9.57 tok/s,M5 Pro 为 13.14 tok/s。

相应地,长提示词推理总耗时从 M4 Pro 的 83.9 s 降至 M5 Pro 的 55.1 s,而峰值物理进程内存两台机器均保持在 8.5 GB。总体看,M5 Pro 在长提示词场景下的预填充与解码速度明显领先,短提示词下也有提升,目前公开材料仅此一帖,尚无其他来源的交叉验证。

AI 综合 1 篇报道生成

最新进展Reddit LocalLLaMA 社区发起讨论,探讨用户在完成配置后将哪些具体任务从云端模型迁移至本地模型。讨论重点关注本地模型已能胜任的场景,以及仍需依赖 Claude、ChatGPT 或 Gemini 的复杂任务边界。

相关 AI 工具

updream
24 小时热度热度指数 25 · 峰值 33 · 23 小时前
24 小时前现在

这件事的报道 点标题看原文

11月11日
  1. Reddit LocalLLaMA 社区发起讨论,探讨用户在完成配置后将哪些具体任务从云端模型迁移至本地模型。讨论重点关注本地模型已能胜任的场景,以及仍需依赖 Claude、ChatGPT 或 Gemini 的复杂任务边界。

    了解社区用户在实际生产中划分本地与云端模型使用场景的经验。

    Reddit · LocalLLaMAAI 评分 62
11月9日
  1. 据 Reddit 用户测试,在 M4 Pro 与 M5 Pro 统一内存设备上使用 MoEShift 后端运行 Qwen3.8-Flash-Next 125B 模型时,M5 Pro 在长提示词处理上展现出显著更高的预处理和解码速度。

    提供了新一代硬件上大模型量化运行的详细基准测试数据。

    Reddit · LocalLLaMAAI 评分 63

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →