Google Cloud Ops Agent 新增对 NVIDIA GPU 的监控支持

Google Cloud 宣布其用于从 Compute Engine 实例收集遥测数据的 Ops Agent 现在可以收集和聚合 NVIDIA GPU 的指标。这一扩展旨在满足 AI 和 ML 技术日益增长的计算需求，特别是在产品推荐、科学计算和游戏等领域。

Ops Agent 的主要功能

1. 可视化 GPU 集群健康状态：通过 GPU 指标和预建仪表板，用户可以深入了解 GPU 集群的健康状况。
2. 优化成本和负载：识别未充分利用的 GPU，优化负载分配，从而降低成本并提高效率。
3. 高效规划扩展：分析趋势和模式，以便为 GPU 容量扩展或升级现有 GPU 做出明智决策。
4. 识别工作负载消耗：确定哪些 GPU 进程（特别是 ML 模型）消耗了 GPU 利用率和内存。
5. 利用 DCGM 分析指标：使用 DCGM 分析指标检测 GPU 中的瓶颈和性能问题。

技术基础

Ops Agent 基于 NVIDIA 管理库（NVML），能够轻松收集关键的 GPU 指标，如 GPU 利用率、GPU 内存使用情况、进程最大 GPU 内存使用情况和进程生命周期内的 GPU 利用率，而无需额外配置。

此外，Ops Agent 还支持通过 NVIDIA 数据中心 GPU 管理器（DCGM） 收集高级 GPU 指标。DCGM 提供用于分析各种硬件组件的 API，从而更深入地了解 GPU 性能。

可视化与管理

Ops Agent 简化了 GPU 指标的可视化，用户可以通过 Google Cloud 的操作套件轻松查询和可视化收集的 GPU 指标，构建自定义图表和仪表板。专用的 NVIDIA GPU 监控仪表板 提供了 GPU 集群健康状况的集中视图。

Ops Agent 作为一个统一的遥测代理，自动化收集主机指标、系统日志和其他指标，简化了遥测流程的管理，使用户能够专注于最大化其 GPU 虚拟机的潜力。

便捷的集成

Google Cloud 在创建新虚拟机时引入了一键添加 Ops Agent 的选项，用户可以通过默认配置体验 Ops Agent，从而实现无缝监控。

其他云厂商的 GPU 监控解决方案

除了 Google Cloud，其他云厂商也提供了 GPU 监控解决方案。AWS 的 CloudWatch 支持 GPU 监控，而 Azure 则通过 容器洞察 提供 GPU 监控功能。

总结

Google Cloud 通过扩展 Ops Agent 的功能，为用户提供了更全面的 GPU 性能监控工具，帮助优化 AI 和 ML 开发流程，提升计算资源的利用效率。