AI 资源库 · 已整理 1 项

GPU 健康

查看与GPU 健康相关的 AI 资讯、工具、Skill、工作流和开源项目。

Amazon ECS 现可自动修复故障 GPU 与实例:这对 SRE 意味着什么

Amazon ECS 新增了自动修复能力,能自己发现并处理运行任务所用实例和 GPU 的硬件故障。以往 GPU 出问题往往只能表现为任务莫名失败或变慢,而实例掉线后 ECS 也难以及时替换上面的任务,这些都需要团队自己写检测和恢复脚本。现在 ECS 会持续监控 EC2 状态、实例上的 ECS 代理和容器运行时,并通过 NVIDIA DCGM 识别真正的 GPU 硬件错误,一旦确认就自动把坏实例移出并重建。对 SRE 来说,日常运维里一类原本要自己兜底的故障可以交给平台处理,自己只需在更模糊的情况下手动干预;目前该能力已在 ECS Managed Instances 和 Fargate 上线。

文中可用工具

  • Amazon ECS运行容器化应用的托管服务,现可自动检测并修复故障实例和 GPU
  • ECS Managed Instances由 ECS 接管实例基础设施运维(含补丁和恢复)的模式
  • AWS Fargate无需自己管理服务器的容器运行方式,同样支持实例故障自动恢复
  • NVIDIA Data Center GPU Manager (DCGM)在实例上监控 GPU 健康状态,识别真实硬件故障
  • Amazon EC2提供底层计算实例,其状态检查被用于判断实例是否受损
  • Amazon EBS提供块存储卷,其性能下降会被视为实例受损信号之一
☆ 收藏查看来源 ↗