TorchTPU:在 Google TPU 上运行 PyTorch 模型与算子
google-pytorch/torch_tpu
TorchTPU 为 Google TPU 提供 PyTorch 后端,包含面向 TPU 的自定义 ATen 算子实现、用于优化 XLA 计算执行的编译缓存,以及分布式训练(数据并行、张量并行)和模型推理示例。项目还支持与 torch.compile() 集成进行图模式执行,并提供调试与性能基准工具。
评论 · 分享第一个看法
AI 资源库 · 已整理 2 项
查看与TorchTPU相关的 AI 资讯、工具、Skill、工作流和开源项目。
google-pytorch/torch_tpu
TorchTPU 为 Google TPU 提供 PyTorch 后端,包含面向 TPU 的自定义 ATen 算子实现、用于优化 XLA 计算执行的编译缓存,以及分布式训练(数据并行、张量并行)和模型推理示例。项目还支持与 torch.compile() 集成进行图模式执行,并提供调试与性能基准工具。
在 2026 年北美 PyTorch 大会上,Google 开源了 TorchTPU,让 PyTorch 代码能直接跑在 Google 的 TPU 芯片上,已在 GitHub 发布;AWS 则推出 TorchNeuron 公开测试版,让 PyTorch 模型能跑在其 Trainium 芯片上。过去 PyTorch 开发者基本绑定 Nvidia 的 CUDA 生态,换芯片往往要大量改代码,这两个项目把迁移简化到改几行代码甚至只改一个配置。不过官方也说明,想达到最高性能仍需针对新芯片专门调优,例如 TorchTPU 默认分布式方案可能比优化方案慢约 30–40%。对开发者来说,这多了可选的硬件路线,但现阶段迁移容易、跑出极致性能仍不简单。