Google 与 Meta 联合开源 TorchTPU，为 TPU 提供 PyTorch 原生后端

2026 年 11 月 12 日，据 InfoQ 中文报道，Google 与 Meta 联合开源 TorchTPU，为 Google TPU 提供 PyTorch 原生后端，目标是让现有 PyTorch 工作负载以低侵入方式迁移到 TPU 硬件上运行。

报道介绍，TorchTPU 从 GPU 迁移到 TPU 时，只需把 cuda 设备替换为 tpu，把 nccl 分布式后端替换为 tpu_dist，开发者还可使用 torch.accelerator.current_accelerator 这一统一 API 识别加速器，无需重写计算逻辑即可启用 TPU 硬件优化。与 Google 自 2020 年起通过 PyTorch/XLA 支持 PyTorch 工作负载的路线相比，TorchTPU 取消了显式编译区域，不再依赖 JAX、XLA 和延迟张量，将即时执行列为最高优先级，并原生兼容命令式执行与新兴分布式原语。报道援引 Google 的说法称，其混合模式 DeferAndFuse 比 Strict Eager 快 50% 以上。团队已在多代 TPU 上，以即时与编译两种模式对约 5000 个 Hugging Face 模型进行了评估。目前，该项目作为开源方案发布，相关迁移与评估工作由 Google 与 Meta 团队推进。