MegaCapybara 发布 RTX5090 推理引擎称速度翻倍

2026 年 10 月 3 日，一位开发者在 Reddit 的 LocalLLaMA 版块公布了一款名为 MegaCapybara 的推理引擎。据其介绍，这款引擎是专门为 RTX5090 打造的，当前主要面向 Qwen3.8 27B 这一个模型，作者表示后续会支持更多模型。引擎代码发布在 GitHub，权重放在 Hugging Face。

作者给出的核心说法是速度：MegaCapybara 的解码速度约为 Ninfer 的两倍，而 Ninfer 在此之前是 RTX5090 上的 SOTA 引擎，这一倍数在单任务和多任务并发两种情况下都成立。具体数字方面，材料称单路可达 500+ t/s，短时爆发能到 650 t/s，12 路并发时最高 2600 t/s；原文在提到 2600 t/s 时用的说法是「如果一切条件都刚好合适」，而报道摘要把它归到 12 路并发的场景下，两处表述并不完全一致。除此之外，MegaCapybara 支持 800k 上下文，并带有 VRAM-RAM-磁盘三级缓存管理、Loop Guard 以及图形界面。

目前这件事停在新项目公布这一步：上述速度数字均为作者自述，材料中没有给出测试条件，也没有第三方复现或独立评测，MegaCapybara 相对 Ninfer 是否真的达到两倍，尚无法从现有信息中确认。