Google 推出 TorchTPU,PyTorch 原生支持 TPU 训练
2026/10/21 — 10/21 02:19·4 个来源(全部)·4 篇报道(全部)·入选 10-21 日报
核心速览 (Key Takeaways)
- Google Developers Blog 介绍 TorchTPU,把原生 torch.device("tpu") 后端接入 PyTorch,开发者无需改用 JAX 重写代码,就能在 Cloud TPU 上训练大模型。
- 配套的 TorchTitan TPU 分支提供 SimpleFSDP、Graph Trainer 和 Pallas 自定义 kernel,并给出 dense 与 MoE 架构的优化方案。
事件背景与详细解读
2026 年 10 月 21 日,Google Developers Blog 发文介绍 TorchTPU,称其把原生的 torch.device("tpu") 后端直接接入 PyTorch,开发者无需改用 JAX 重写代码,即可在 Google Cloud TPU 上训练大规模模型。文章同时提到配套的 TorchTitan TPU 分支,该分支提供 SimpleFSDP、Graph Trainer 以及自定义 Pallas kernel,并称这些组件在 dense 与 MoE 架构上都能实现较高的 Model Flops Utilization(MFU)。
文中还表示,开发者可以使用经过验证的优化 playbook、配方以及 Hugging Face 相关内容。目前公开的信息停留在这一发布介绍层面,未提及具体上线时间、可用区域或性能对比数据。
AI 综合 1 篇报道生成 · 更新于 3 小时前
最新进展Google Developers Blog 介绍 TorchTPU 把原生 torch.device("tpu") 后端接入 PyTorch,开发者无需改用 JAX 重写代码,就能在 Cloud TPU 上训练大模型。配套的 TorchTitan TPU 分支提供 SimpleFSDP、Graph Trainer 和 Pallas 自定义 kernel,并给出 dense 与 MoE 架构的优化配方。
- 热度指数
- 331
- 全部来源
- 4
- 全部报道
- 4
- 首报
- 3 小时前
这件事的报道 点标题看原文
Google Developers Blog 介绍 TorchTPU 把原生 torch.device("tpu") 后端接入 PyTorch,开发者无需改用 JAX 重写代码,就能在 Cloud TPU 上训练大模型。配套的 TorchTitan TPU 分支提供 SimpleFSDP、Graph Trainer 和 Pallas 自定义 kernel,并给出 dense 与 MoE 架构的优化配方。
想在 TPU 上跑 PyTorch 训练可关注这套配方
Google Developers Blog官方AI 评分 48PyTorch 博客宣布,Google 与 Meta 合作开源 TorchTPU,为 Google TPU 提供原生的 PyTorch 后端,模型可开箱即用地在 TPU 上执行。该后端由两家公司共同推进,属于 PyTorch 官方生态的一部分。
PyTorch 生态与 TPU 之间第一次有了官方原生后端
PyTorch Blog官方AI 评分 52
据 MarkTechPost 报道,Google 与 Meta 开源了 TorchTPU,这是 Cloud TPU 的原生 PyTorch 后端。它默认以 eager 模式运行,通过 torch.compile 和 XLA 编译,并在新工作负载上取代 PyTorch/XLA。
在 TPU 上跑 PyTorch 的团队可关注迁移路径
MarkTechPostAI 评分 63Hugging Face 在官方博客发布 TorchTPU 相关内容,主题是让 PyTorch 在 TPU 上原生运行。现有材料未给出适配范围、性能数据或可用时间等细节。
关心 TPU 上跑 PyTorch 的团队值得先看一眼。
Hugging Face Blog官方AI 评分 42
同时在说的其他事
- 热度指数 58SGLang 团队与 Google、Meta 开源 TPU 推理服务栈1 个来源
- 热度指数 1044发酵中美国 DHS 下令联邦民事机构清除 DeepSeek 技术16 个来源
- 热度指数 892发酵中DeepSeek 开源大规模推理框架 DeepInfer11 个来源
- 热度指数 808发酵中MiniMax M3.1 Flash 正式版上线 Cline 与 gmi_cloud17 个来源
- 热度指数 545Anthropic 承诺 5% 股份入公益基金并随估值追加15 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加
