Strata 為 llama.cpp 實現 MoE 快取，預填充提速 5-10 倍

2026 年 10 月 3 日，Reddit 的 LocalLLaMA 版塊出現一篇帖子，介紹名為 Strata 的社群專案為本地大模型推理工具 llama.cpp 實現了 MoE 快取。發帖人給出的專案地址為 https://github.com/Niko1221/Strata，並稱加入 MoE 快取後，預填充速度提升 5-10 倍，解碼速度提升 3-4 倍。

發帖人在帖中表示，自己大約一年來一直希望 llama.cpp 實現 MoE 快取，但社群在這項功能上的多個 PR 進展緩慢，多數只是 1%、2% 量級的小幅改進，同時 arXiv 上已有數十篇論文驗證了該思路。按其說法，Strata 只用了約兩週就做出了這一實現。

目前這件事停在這篇帖子本身：相關數字與兩週完成實現的說法均出自發帖人自述，材料中沒有 llama.cpp 專案方或其他第三方的回應，也沒有獨立的復現或評測結果。