Project Icon

gpustat

简洁高效的NVIDIA GPU监控工具

gpustat是一款专为NVIDIA显卡设计的GPU监控工具。它提供简洁的输出,支持实时监控、进程信息显示和JSON输出等功能。通过pip可以轻松安装,并且提供多种命令行选项以自定义显示内容。gpustat兼容Python 3.6+,要求NVIDIA驱动450.00或更高版本。这个工具适用于GPU资源管理和性能监控。

gpustat

[pypi][pypi_gpustat] license

比nvidia-smi更简洁?

截图: gpustat -cp

注意:这只适用于NVIDIA显卡,目前不支持AMD。欢迎贡献!

自我推广:gpustat的网页界面现已推出(alpha版)!查看gpustat-web

快速安装

从[PyPI][pypi_gpustat]安装:

pip install gpustat

如果没有root(sudo)权限,请尝试在用户命名空间安装gpustatpip install --user gpustat

通过pip安装最新版本(master分支):

pip install git+https://github.com/wookayin/gpustat.git@master

NVIDIA驱动和pynvml要求

[!重要] 不要: pip install pynvml,也不要在你的Python项目中包含[pynvml][pypi_wrong]作为依赖。这样做是无效的。

正确做法:pip install nvidia-ml-py。[nvidia-ml-py][pypi_pynvml]是NVIDIA官方的NVML Python绑定。

  • gpustat 1.2+:需要nvidia-ml-py >= 12.535.108([#161][gh-issue-161])
  • gpustat 1.0+:需要NVIDIA驱动450.00或更高版本,以及nvidia-ml-py >= 11.450.129
  • 如果你的NVIDIA驱动太旧,可以使用旧版的gpustatpip install gpustat<1.0)。详见[#107][gh-issue-107]。

Python要求

  • gpustat<1.0:兼容Python 2.7和>=3.4
  • gpustat 1.0:[Python >= 3.4][gh-issue-66]
  • gpustat 1.1:Python >= 3.6

使用方法

$ gpustat

选项(请查看gpustat --help获取更多详情):

  • --color : 强制彩色输出(即使stdout不是tty)
  • --no-color : 禁用彩色输出
  • -u, --show-user : 显示进程所有者的用户名
  • -c, --show-cmd : 显示进程名
  • -f, --show-full-cmd : 显示运行进程的完整命令和CPU统计信息
  • -p, --show-pid : 显示进程的PID
  • -F, --show-fan : 显示GPU风扇速度
  • -e, --show-codec : 显示编码器和/或解码器使用率
  • -P, --show-power : 显示GPU功率使用和/或限制(drawdraw,limit
  • -a, --show-all : 显示上述所有GPU属性
  • --id : 仅针对指定索引的GPU进行查询(例如--id 0,1,2
  • --no-processes : 不显示进程信息(用户、内存)([#133][gh-issue-133])
  • --watch, -i, --interval : 以监视模式运行(相当于watch gpustat)。表示更新间隔。
  • --json : JSON输出([#10][gh-issue-10])
  • --print-completion (bash|zsh|tcsh) : 打印shell补全脚本。使用方法见[#131][gh-issue-131]。

小贴士

  • 如果出现问题,尝试gpustat --debug
  • 要定期监视,尝试gpustat --watchgpustat -i([#41][gh-issue-41])。
    • 对于旧版本,可以使用watch --color -n1.0 gpustat --color
  • 运行nvidia-smi daemon(需要root权限)将使查询GPU更快且消耗更少的CPU([#54][gh-issue-54])。
  • gpustat(和nvidia-smi)显示的GPU ID(索引)是PCI总线ID, 而CUDA默认使用不同的排序(将最快的GPU分配最低ID)。 因此,为确保CUDA和gpustat使用相同的GPU索引, 请在设置CUDA程序的CUDA_VISIBLE_DEVICES之前, 将CUDA_DEVICE_ORDER环境变量配置为PCI_BUS_IDexport CUDA_DEVICE_ORDER=PCI_BUS_ID

默认显示

[0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)
  • [0]:GPU索引(从0开始)作为PCI_BUS_ID
  • GeForce GTX Titan X:GPU名称
  • 77°C:GPU温度(摄氏度)
  • 96 %:GPU利用率
  • 11848 / 12287 MB:GPU内存使用情况(已用 / 总量)
  • python/...:GPU上运行的进程,所有者/命令行/PID(及其GPU内存使用量)

更新日志

CHANGELOG.md

许可证

MIT许可证

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号