llama.cpp 共享專家融合進 MMVQ 提速 MoE

2026 年 10 月 3 日，Reddit 的 LocalLLaMA 板塊出現一條帖子，提到 llama.cpp 的新 PR #29184。按帖子的說法，這個 PR 把共享專家（shared experts）融合進 MMVQ，從而為部分 MoE 架構帶來推理加速。

帖子由使用者 u/jacek2023 提交，作者在說明中特別註明，這一加速只對特定 MoE 架構生效，並舉例為 Qwen 35B A3B。也就是說，並非所有 MoE 模型都能從中受益，具體適用範圍以作者給出的這個例子為準。

截至目前，這條報道只交代了 PR 編號、改動思路、適用條件和所舉的架構例子。加速幅度是多少、除 Qwen 35B A3B 之外還有哪些 MoE 架構適用、該 PR 是否已經合併或被納入某個版本，材料裡都沒有提及，因此這件事目前停在該 PR 被公開討論、尚未見到後續結論的階段。