XuehaiPan avatar

XuehaiPan/nvitop

7.0k 236 28
Python Apache-2.0
创建于 5 年前 最后更新 3 周前 +6 stars today

AI 综合评分

58 B 级
代码质量
53
文档质量
60
社区健康
56
项目活跃
63
创新性
51

项目简介

nvitop 是一款交互式 NVIDIA GPU 进程查看器与管理工具,提供一站式 GPU 监控解决方案。

项目摘要

【主题】

nvitop 是一个交互式 NVIDIA-GPU 进程查看器与监控工具,旨在解决开发者在多 GPU 环境中进行实时资源监控与进程管理的痛点。

【核心分点总结】

  1. 交互式进程查看:提供类似 htop 的实时界面,清晰展示每个 GPU 的使用率、显存占用及关联进程,支持排序和筛选。

  2. 超越 nvidia-smi:在功能上全面超越官方工具,集成了更丰富的监控指标(如功耗、温度)和更友好的交互操作。

  3. 多维度监控与告警:支持 Grafana 和 Prometheus 数据导出,方便构建长期监控仪表盘并设置告警规则。

  4. 轻量级与易集成:基于 Python 和 NVML,无需复杂配置即可作为库集成到现有运维脚本或管理流程中。

【行动指南】

  1. 日常开发调试:在训练或推理任务运行时,直接运行 nvitop 命令,快速定位占用 GPU 资源的进程,并可交互式终止异常进程。

  2. 生产环境监控:将 nvitop 作为 Prometheus Exporter 部署,结合 Grafana 实现对 GPU 集群的长期性能监控和可视化。

  3. 脚本化管理:利用其 Python API 编写自动化脚本,实现 GPU 资源的动态分配、健康检查和故障恢复。

【金句总述】

nvitop 让 GPU 监控从“看数字”变为“懂故事”,是开发者管理多 GPU 环境的得力副驾。

【故事性收尾】

曾经,面对一排闪烁的 GPU 指标和纷杂的进程列表,你像在迷雾中摸索,只能依赖 nvidia-smi 输出的一串冰冷数字。现在,启动 nvitop,一个清晰、可交互的全景视图在终端中展开——每一块 GPU 的工作状态、每个进程的资源消耗都一目了然。你从容地排序、筛选、终止,仿佛为狂奔的算力装上了精准的刹车和导航仪,从此,调试与运维不再是救火,而是一场优雅的指挥。

相关项目推荐