LiteLLM Rust 閘道器 7 倍效能宣稱遭資料反駁

2026 年 7 月，LiteLLM 釋出了其新的 Rust AI 閘道器的基準測試結果，聲稱與 Bifrost 相比，開銷大約只有後者的七分之一，記憶體少九倍，每美元可處理的請求數多出約 4.5 倍。這類標題數字傳播很快，卻很難核實。

隨後 Bifrost 團隊查閱了 LiteLLM 公佈的原始 CSV 與 JSON 資料，釋出了題為 Debunking LiteLLM Rust Benchmarking, Part 1 的反駁文章，結論是資料所講的故事遠沒有標題那麼誇張。目前事件停在雙方各執一詞的階段：一方給出 7 倍、9 倍、4.5 倍的標題數字，另一方基於同一批原始資料提出異議，尚未見到定論。

DEV Community 在 2026 年 11 月 11 日的一篇文章中對雙方說法做了逐項對照，指出各自合理之處，並給出了自行核驗的方法，讀者可據此判斷哪一方的說法更站得住腳。