SGLang 團隊與 Google、Meta 開源 TPU 推理服務棧

2026/10/20 — 10/21 02:19·1 個來源（全部）·1 篇報道（全部）

核心速覽 (Key Takeaways)

RadixArk 的 SGLang 團隊與 Google、Meta 合作開源了 SGLang-TorchTPU，讓開發者在 TPU 上以 PyTorch 原生方式做生產級模型服務，無需為另一套執行時重寫模型。
首發支援的模型包括 GLM-5.3、GLM-5.3 Flash、Kimi K3、DeepSeek 等。

2026 年 10 月 20 日，RadixArk 的 SGLang 團隊宣佈與 Google、Meta 合作，開源了 SGLang-TorchTPU。據該團隊公佈的資訊，這套推理服務棧用於在 TPU 上以 PyTorch 原生方式執行生產級模型服務。

首發支援的模型包括 Muse Spark Open、GLM-5.3、GLM-5.3 Flash、Kimi K3 和 DeepSeek 等。目前公開材料只覆蓋到開源釋出與首發模型名單這一步，後續進展尚未披露。

AI 綜合 1 篇報道生成 · 更新於 2 小時前

最新進展RadixArk 的 SGLang 團隊與 Google、Meta 合作開源了 SGLang-TorchTPU，用於在 TPU 上以 PyTorch 原生方式做生產級模型服務。首發支援模型包括 GLM-5.3、GLM-5.3 Flash、Kimi K3、DeepSeek 等。

24 小時熱度熱度指數 56 · 峰值 100 · 19 小時前

24 小時前現在

昨天

08:00SGLang-TorchTPU 開源：TPU 上的 PyTorch 原生推理服務
RadixArk 的 SGLang 團隊與 Google、Meta 合作開源了 SGLang-TorchTPU，用於在 TPU 上以 PyTorch 原生方式做生產級模型服務。首發支援模型包括 GLM-5.3、GLM-5.3 Flash、Kimi K3、DeepSeek 等。
在 TPU 上部署推理的團隊現在可以直接用這套開源棧。
LMSYS / SGLang官方AI 評分 55

熱度怎麼算的？瞭解口徑

熱度按 48 小時內有多少個獨立來源在說這件事算：同一個來源發多條只算一次，並按 24 小時半衰期衰減，所以排前面的是很多人在說的事。

本頁彙總公開訂閱源，標題與摘要由模型整理，版權歸原作者所有；重要資訊請回原文核對。如權利人認為相關標題或摘要侵權，請通過頁尾聯絡郵箱提供具體頁面與權利依據，我們核實後會及時刪除或替換。