在 vLLM 中為 Qwen3 模型配置 EAGLE-3 投機解碼

2026 年 11 月 9 日，DEV Community 的 AI 板塊發表了一篇技術文章，標題為《在 vLLM 中為 Qwen3 模型配置 EAGLE-3 投機解碼》，介紹了在 vLLM 中為 Qwen3-30B 模型配置 EAGLE-3 投機解碼的完整方案，以及配套的專屬 speculator 模型和特定推理引數。文章指出，投機解碼是少數能在不改變輸出分佈的前提下，讓大模型明顯感覺更快的推理最佳化手段之一。

文章還說明，過去講解 EAGLE-3 所用 notebook 形式的工作流已不再適用，原因是它綁定了 Colab、較舊的 Qwen3-32B 模型配對，以及一次性的基準測試執行。文章給出的當前更清晰方案是：以 Qwen/Qwen3-30B-A3B-Instruct-2507 搭配 RedHatAI/Qwen3-30B-A3B-Instruct-2507-speculator.eagle3，通過 vLLM 部署，並使用該模型專用的 eagle3 draft 配置；tokenizer 與 chat-template 部分在該方案中仍可正常工作。