Qwen3.8-27B 本地實測投機解碼達 159 tok/s

2026 年 10 月 9 日，Reddit 社群披露了一組關於 Qwen3.8-27B 本地推理的基準資料，隨後有開發者在掘金髮文記錄並拆解了這套方案。據該文描述，測試者使用 Q8 DFlash2 投機解碼配合 LemonSeed Engine 0.5.8，把解碼速度從 14 tok/s 提升到 159 tok/s。

報道給出的具體數字是：在 Sapphire Radeon AI PRO R9700 上測得 159.4 tok/s，在 Strix Halo 移動平臺上為 64.4 tok/s。作為對照，文章提到在配備 M3 Ultra 的 Mac Studio 上通過 Ollama 執行 Qwen3.8-27B Q4_K_M，模型權重佔用約 17 GB，常規持續生成速度約為 14 tok/s。

文章稱這套提速來自兩層最佳化鏈路：草稿樹驗證，以及 gate/up GEMM 運算元融合。文中還提到對比了軟硬體配置與 llm-bench 基準質量，但摘要中未給出這些對比的具體結果。目前公開的資訊停在這組基準資料與最佳化鏈路的拆解上，材料中沒有更多後續進展。