谷歌开源端侧 GPU 推理引擎 ML Drift

2026-11-05，InfoQ 中文报道了谷歌开源 ML Drift，这是一个面向端侧 AI 的跨平台 GPU 计算引擎，采用 Apache 2.0 许可。ML Drift 抽离了不同 GPU 硬件和底层 API 的复杂性，统一抽象 OpenGL ES、OpenCL、Metal 和 WebGPU，并作为 LiteRT 的 GPU 加速后端为其提供动力。开发者可用它为各类应用构建自定义图形渲染与推理运行时，场景涵盖传统计算机视觉、音频、深度处理以及生成式 AI。

谷歌表示，ML Drift 旨在为可移植性和性能建立新的基础，兼顾“传统 ML 的稳定性和前沿生成式 AI 的峰值性能”。相较于旧版 TFLite GPU 委托，ML Drift 引入了基于张量虚拟化实现的统一着色器、可扩展自定义算子和原生五维张量支持，并针对 Arm、Intel 和高通技术公司的 GPU 进行了硬件专属优化。谷歌称在 Gemma 模型上其内存开销比 llama.cpp 和 MLX LM 低 12%，且已用于 Chrome、YouTube Shorts、Photos 和 Meet 等应用。报道还提到 ML Drift 通过 Dawn（Chromium 的 WebGPU 实现）构建，但这一细节在摘要与正文中均未展开。目前没有更多后续进展的公开报道，项目的最新状态以谷歌官方仓库为准。