RTX 3060 实测三款本地推理引擎跑 Qwen3.6-35B-A3B

2026 年 11 月 10 日 17:38，Reddit 的 LocalLLaMA 版块有一位用户发帖，称自己在单张 RTX 3060 12GB、Ryzen 5 7600X、32 GB RAM 的机器上，用同一个 Qwen3.6-35B-A3B GGUF 文件对比了三款本地推理引擎。测试文件为 Qwen3.6-35B-A3B-UD-Q3_K_M.gguf（Unsloth 出品，含 MTP 层），体积 15.9 GiB，已超出这块显卡的显存容量。测试使用一段 5290 token 的提示，生成 128 个 token。

在 prefill 阶段（5290 token 提示），RustingStrata 为 2330 tok/s，PolyStrata 为 1458-1549 tok/s，llama.cpp b12119 为 1692 tok/s（参数 -ncmoe 22，-ub 2048）。在 decode 阶段，不开 MTP 时三者分别为 90.9 tok/s、78.5 tok/s（--no-draft）、53.5 tok/s；开启 MTP 草稿后（--spec-type draft-mtp，102 个草稿中用到 92 个），分别提升到 128.4 tok/s、97.5-100.4 tok/s 和 77.7 tok/s。目前公开信息只有这一条来源，尚无其他报道印证。