RTX 3060 實測三款本地推理引擎跑 Qwen3.6-35B-A3B

2026 年 11 月 10 日 17:38，Reddit 的 LocalLLaMA 版塊有一位使用者發帖，稱自己在單張 RTX 3060 12GB、Ryzen 5 7600X、32 GB RAM 的機器上，用同一個 Qwen3.6-35B-A3B GGUF 檔案對比了三款本地推理引擎。測試檔案為 Qwen3.6-35B-A3B-UD-Q3_K_M.gguf（Unsloth 出品，含 MTP 層），體積 15.9 GiB，已超出這塊顯示卡的視訊記憶體容量。測試使用一段 5290 token 的提示，生成 128 個 token。

在 prefill 階段（5290 token 提示），RustingStrata 為 2330 tok/s，PolyStrata 為 1458-1549 tok/s，llama.cpp b12119 為 1692 tok/s（引數 -ncmoe 22，-ub 2048）。在 decode 階段，不開 MTP 時三者分別為 90.9 tok/s、78.5 tok/s（--no-draft）、53.5 tok/s；開啟 MTP 草稿後（--spec-type draft-mtp，102 個草稿中用到 92 個），分別提升到 128.4 tok/s、97.5-100.4 tok/s 和 77.7 tok/s。目前公開資訊只有這一條來源，尚無其他報道印證。