谷歌開源端側 GPU 推理引擎 ML Drift

2026-11-05，InfoQ 中文報道了谷歌開源 ML Drift，這是一個面向端側 AI 的跨平臺 GPU 計算引擎，採用 Apache 2.0 許可。ML Drift 抽離了不同 GPU 硬體和底層 API 的複雜性，統一抽象 OpenGL ES、OpenCL、Metal 和 WebGPU，並作為 LiteRT 的 GPU 加速後端為其提供動力。開發者可用它為各類應用構建自定義圖形渲染與推理執行時，場景涵蓋傳統計算機視覺、音訊、深度處理以及生成式 AI。

谷歌表示，ML Drift 旨在為可移植性和效能建立新的基礎，兼顧“傳統 ML 的穩定性和前沿生成式 AI 的峰值效能”。相較於舊版 TFLite GPU 委託，ML Drift 引入了基於張量虛擬化實現的統一著色器、可擴充套件自定義運算元和原生五維張量支援，並針對 Arm、Intel 和高通技術公司的 GPU 進行了硬體專屬最佳化。谷歌稱在 Gemma 模型上其記憶體開銷比 llama.cpp 和 MLX LM 低 12%，且已用於 Chrome、YouTube Shorts、Photos 和 Meet 等應用。報道還提到 ML Drift 通過 Dawn（Chromium 的 WebGPU 實現）構建，但這一細節在摘要與正文中均未展開。目前沒有更多後續進展的公開報道，專案的最新狀態以谷歌官方倉庫為準。