SGLang 0.5.23 釋出 Paged Experts 功能以突破視訊記憶體限制

2026/11/07 — 11/07 08:14·1 個來源（全部）·1 篇報道（全部）

核心速覽 (Key Takeaways)

24 小時熱度熱度指數 98

剛上榜，走勢正在積累

24 小時前現在

今天

08:01SGLang 0.5.23 釋出 Paged Experts 功能：突破 VRAM 限制執行超大 MoE 模型
SGLang 0.5.23 版本正式推出了名為 Paged Experts 的可選功能，通過將 MoE 層的部分專家保留在 GPU 記憶體中，其餘存放在固定的主機記憶體按需載入，使得在小視訊記憶體裝置上高效執行大型混合專家模型成為可能。
為在消費級顯示卡上執行大體積 MoE 模型提供了可行的工程方案。
DEV Community · AIAI 評分 68

熱度怎麼算的？瞭解口徑

熱度按 48 小時內有多少個獨立來源在說這件事算：同一個來源發多條只算一次，並按 24 小時半衰期衰減，所以排前面的是很多人在說的事。

本頁彙總公開訂閱源，標題與摘要由模型整理，版權歸原作者所有；重要資訊請回原文核對。如權利人認為相關標題或摘要侵權，請通過頁尾聯絡郵箱提供具體頁面與權利依據，我們核實後會及時刪除或替換。