Qwen3.8-Flash-Next 177B 單張 RTX 5070 跑出 11-15 tok/s

2026 年 10 月 3 日，Reddit 的 LocalLLaMA 版塊出現一篇關於本地推理的帖子。發帖人表示，自己一直在 Windows 上除錯一套基於 llama.cpp 的專家流式方案，用來執行 Qwen3.8-Flash-Next 177B，量化格式為 UD-IQ3_XXS。硬體是單張 RTX 5070，視訊記憶體 12GB，搭配 32GB DDR4-2400 記憶體、Ryzen 5 5600GT 處理器和 PCIe Gen3 介面。按帖子標題的說法，這套配置的速度區間是 11-15 tok/s。

帖子給出了幾組具體數字：基準測試約為 11.5 tok/s，高於他接手這套方案時的大約 7 tok/s；日常對話場景中速度可以到 14-15 tok/s。在一條較長的程式設計提示下，模型生成了 4,892 tokens，速度為 10.15 tok/s，併產出了一個可執行的單檔案貪吃蛇遊戲。

目前這件事只有這一篇報道，除發帖人自述的測試資料外，材料中沒有第三方復現或其他來源的驗證。