推理与部署工具
TauGrid：在 GPU Kubernetes 集群上运行和管理 AI 工作负载的云原生基础设施
Azure/taugrid · Cloud-native AI infrastructure for teams to run, schedule, and monitor AI workloads on GPU-enabled Kubernetes clusters, from data preparation to distributed training, fine-tuning, and inference.
ELI5：它是什么，解决什么问题
TauGrid 是面向团队的云原生 AI 基础设施，用于在启用 GPU 的 Kubernetes 集群上运行、调度和监控 AI 工作负载，覆盖数据准备、分布式训练、微调和推理。它整合 tau CLI、基于 Kueue 的队列与配额准入、基于 KubeRay 的 Ray 集群编排、节点级 GPU 健康监控以及集群与工作负载可观测性，让平台团队无需逐一组装各组件，研究者也不必直接配置 Kubernetes。
核心能力与快速开始
★ 59 · Go
- 能做什么
- 通过 tau CLI 从终端或 CI 提交、监控和管理 AI 工作负载；借助 Kueue 实现公平共享调度、配额管理和基于优先级的准入；借助 KubeRay 管理 Ray 集群以支持分布式训练和推理；提供节点级 GPU 诊断、硬件故障自动排空和集群整体健康视图；集成集群、GPU 和工作负载的指标、日志与仪表盘。
- 适用场景
- 平台团队在 GPU Kubernetes 集群上一站式安装和运维 AI 工作负载栈；研究团队提交数据准备、分布式训练、微调与推理任务，并在不直接配置 Kubernetes 的情况下查看状态与日志。
- 项目形态
- 可直接使用的工具
- 部署方式
- 通过 Helm 安装到 Kubernetes 集群（1.30+，含 GPU 节点）；提供公开 OCI Chart 和容器镜像；端到端测试于 AKS，部分集成如 Azure Data Explorer 可观测性仍为 Azure 专属，项目目标为后续支持无 Azure 依赖的云与本地 Kubernetes 环境。
- 主要依赖
- Kubernetes 集群 1.30+ 且带 GPU 节点；配置好的 kubectl；Helm 3.0 或更高版本。
- 使用限制
- 材料未说明硬件规格之外的资源消耗、API 成本或性能数据；部分可观测性集成依赖 Azure Data Explorer；端到端测试限于 AKS；默认不向 Microsoft 发送遥测。
- 许可证
- MIT
- 最近推送
- 2026-11-07 02:28
资料检查：2026-11-07 07:00 · 卡片整理：2026-11-07 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证
职业应用
程序员
程序员可通过 tau CLI 在 GPU Kubernetes 集群上提交、查看状态、流式查看日志和取消 AI 工作负载，用于分布式训练、微调与推理任务的运行与排错。
查看内容依据
Researchers use the CLI to submit and manage workloads without configuring Kubernetes directly.
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。