在 vLLM 中为 Qwen3 模型配置 EAGLE-3 投机解码

2026 年 11 月 9 日，DEV Community 的 AI 板块发表了一篇技术文章，标题为《在 vLLM 中为 Qwen3 模型配置 EAGLE-3 投机解码》，介绍了在 vLLM 中为 Qwen3-30B 模型配置 EAGLE-3 投机解码的完整方案，以及配套的专属 speculator 模型和特定推理参数。文章指出，投机解码是少数能在不改变输出分布的前提下，让大模型明显感觉更快的推理优化手段之一。

文章还说明，过去讲解 EAGLE-3 所用 notebook 形式的工作流已不再适用，原因是它绑定了 Colab、较旧的 Qwen3-32B 模型配对，以及一次性的基准测试运行。文章给出的当前更清晰方案是：以 Qwen/Qwen3-30B-A3B-Instruct-2507 搭配 RedHatAI/Qwen3-30B-A3B-Instruct-2507-speculator.eagle3，通过 vLLM 部署，并使用该模型专用的 eagle3 draft 配置；tokenizer 与 chat-template 部分在该方案中仍可正常工作。