分享 Windows 上 Strata 跑 Qwen 的引數調優實踐

2026 年 10 月 26 日，Reddit 的 LocalLLaMA 板塊有使用者發帖，分享在 Windows 平臺執行 Qwen 模型時對 Strata 進行配置調優的實踐經驗。該使用者的測試環境為一臺 Windows 機器，配備 RTX 4090 顯示卡、額外 48 GB 視訊記憶體和 Ryzen 3900X 處理器，模型為 IQ3_S 量化的 Qwen3.8-Flash-Next，執行在 200k context 下。

該使用者基本上對大量 Strata 執行引數做了一次網格搜尋。結果顯示，調整三個引數後解碼速度從 97 tok/s 提升到 142 tok/s，提升 45%，其中最關鍵的三個引數是 --adapt-async 1、--kv-resident 20480 和 STRATA_ADAPT_LAG=2。他還指出了幾項表現較差的設定：--expert-cache 的單位是 MiB 而非槽位，若按填滿顯示卡的方式配置會下降 72%；--ple-io ram 在 48 GB 視訊記憶體下下降 90%；--no-prefill-borrow 下降 46%。

此外還有一個尚未解決的限制：在 Windows 下 Strata 未通過 CUDA 鎖定記憶體，導致每一次主機到 GPU 的專家複製都由 CPU 驅動，這是該平臺下仍被制約的一個環節。目前該帖子僅提供了上述調優結果與平臺層面的觀察，未報告後續進展。