nvitop:强大而全面的NVIDIA GPU监控工具

nvitop是一款功能强大的NVIDIA GPU监控工具,为用户提供了丰富的GPU资源管理功能。它不仅可以实时显示GPU的使用情况,还能交互式地管理GPU进程,是深度学习研究人员和系统管理员的得力助手。

主要特性

nvitop具有以下几个突出特点:

1. 信息丰富且界面美观:相比nvidia-smi,nvitop能够显示更多的信息,并采用彩色和精美的框图来展示,让用户一目了然。

2. 监控模式:可以作为资源监控器持续运行,而不是像nvidia-smi那样只打印一次结果。在监控模式下,nvitop提供了柱状图和历史曲线图,支持进程排序和过滤,可以通过快捷键向进程发送信号,还有树状视图和环境变量查看等功能。

3. 交互性强:在监控模式下,nvitop能够及时响应用户的键盘和鼠标输入,操作灵活。

4. 高效:nvitop直接使用NVML Python绑定查询设备状态,而不是解析nvidia-smi的输出。它还支持稀疏查询和缓存结果,使用curses库而不是print来显示信息,并通过多线程异步收集信息,响应更快。

5. 可移植:nvitop同时支持Linux和Windows系统,使用跨平台的psutil库获取主机进程信息。

6. 易集成:作为纯Python实现的工具,nvitop很容易集成到其他应用中,不仅限于监控功能。

安装和使用

nvitop的安装非常简单,推荐使用pipx进行安装:

pipx run nvitop

也可以通过pip安装:

pip3 install --upgrade nvitop

安装完成后,可以通过以下命令启动nvitop:

nvitop

nvitop提供了多种运行模式和选项:

• 查询模式: nvitop -1
• 监控模式: nvitop -m auto/full/compact
• 指定设备: nvitop -o 0 1
• 只显示计算进程: nvitop -c

在监控模式下,用户可以通过快捷键进行各种操作,如中断/终止/杀死进程、切换显示模式、排序等。按h键可以查看帮助信息。

高级功能

除了基本的监控功能,nvitop还提供了一些高级特性:

1. CUDA设备选择工具nvisel
2. 机器学习框架的回调函数,支持TensorFlow和PyTorch Lightning
3. TensorBoard集成
4. 低级API,可用于开发自定义监控工具

这些功能使nvitop不仅仅是一个监控工具,还可以成为GPU资源管理的重要组成部分。

结语

nvitop凭借其丰富的功能、友好的界面和强大的可扩展性,成为了NVIDIA GPU监控和管理的首选工具之一。无论是深度学习研究人员还是系统管理员,都能从nvitop中获得所需的GPU资源信息和管理能力。随着持续的更新和完善,相信nvitop会为更多用户带来便利,助力GPU资源的高效利用。

nvitop项目地址: https://github.com/XuehaiPan/nvitop

文档: https://nvitop.readthedocs.io/