LiteLLM Rust 网关 7 倍性能宣称遭数据反驳

2026 年 7 月，LiteLLM 发布了其新的 Rust AI 网关的基准测试结果，声称与 Bifrost 相比，开销大约只有后者的七分之一，内存少九倍，每美元可处理的请求数多出约 4.5 倍。这类标题数字传播很快，却很难核实。

随后 Bifrost 团队查阅了 LiteLLM 公布的原始 CSV 与 JSON 数据，发布了题为 Debunking LiteLLM Rust Benchmarking, Part 1 的反驳文章，结论是数据所讲的故事远没有标题那么夸张。目前事件停在双方各执一词的阶段：一方给出 7 倍、9 倍、4.5 倍的标题数字，另一方基于同一批原始数据提出异议，尚未见到定论。

DEV Community 在 2026 年 11 月 11 日的一篇文章中对双方说法做了逐项对照，指出各自合理之处，并给出了自行核验的方法，读者可据此判断哪一方的说法更站得住脚。