llama.cpp 共享专家融合进 MMVQ 提速 MoE

2026 年 10 月 3 日，Reddit 的 LocalLLaMA 板块出现一条帖子，提到 llama.cpp 的新 PR #29184。按帖子的说法，这个 PR 把共享专家（shared experts）融合进 MMVQ，从而为部分 MoE 架构带来推理加速。

帖子由用户 u/jacek2023 提交，作者在说明中特别注明，这一加速只对特定 MoE 架构生效，并举例为 Qwen 35B A3B。也就是说，并非所有 MoE 模型都能从中受益，具体适用范围以作者给出的这个例子为准。

截至目前，这条报道只交代了 PR 编号、改动思路、适用条件和所举的架构例子。加速幅度是多少、除 Qwen 35B A3B 之外还有哪些 MoE 架构适用、该 PR 是否已经合并或被纳入某个版本，材料里都没有提及，因此这件事目前停在该 PR 被公开讨论、尚未见到后续结论的阶段。