MegaCapybara 釋出 RTX5090 推理引擎稱速度翻倍

2026 年 10 月 3 日，一位開發者在 Reddit 的 LocalLLaMA 版塊公佈了一款名為 MegaCapybara 的推理引擎。據其介紹，這款引擎是專門為 RTX5090 打造的，當前主要面向 Qwen3.8 27B 這一個模型，作者表示後續會支援更多模型。引擎程式碼釋出在 GitHub，權重放在 Hugging Face。

作者給出的核心說法是速度：MegaCapybara 的解碼速度約為 Ninfer 的兩倍，而 Ninfer 在此之前是 RTX5090 上的 SOTA 引擎，這一倍數在單任務和多工併發兩種情況下都成立。具體數字方面，材料稱單路可達 500+ t/s，短時爆發能到 650 t/s，12 路併發時最高 2600 t/s；原文在提到 2600 t/s 時用的說法是「如果一切條件都剛好合適」，而報道摘要把它歸到 12 路併發的場景下，兩處表述並不完全一致。除此之外，MegaCapybara 支援 800k 上下文，並帶有 VRAM-RAM-磁碟三級快取管理、Loop Guard 以及圖形介面。

目前這件事停在新專案公佈這一步：上述速度數字均為作者自述，材料中沒有給出測試條件，也沒有第三方復現或獨立評測，MegaCapybara 相對 Ninfer 是否真的達到兩倍，尚無法從現有資訊中確認。