nvitop

NVIDIA GPU资源实时监控与管理工具

nvitop GPU监控 NVIDIA 进程管理资源监控 Github 开源项目

nvitop是一款强大的NVIDIA GPU监控工具,通过交互式彩色界面实时显示GPU设备和进程状态。除了资源监视功能,它还提供CUDA设备选择工具和API接口,便于开发者构建自定义监控应用。支持Linux和Windows系统,安装便捷,运行高效,是管理GPU资源的综合解决方案。

Github

文档

介绍相关项目

nos - Kubernetes上的AI工作负载优化模块

AI工作负载GPUGithubKubernetes动态GPU分区开源项目资源配额管理

nos是一个开源模块，专门优化Kubernetes上的AI工作负载运行。它通过动态GPU分区和弹性资源配额管理，提高GPU利用率，降低基础设施成本，并增强工作负载性能。该模块支持GPU资源的精细化分配，提高资源利用效率，并允许命名空间之间灵活借用资源配额，最大化提升集群运行能力。

openlit - 开放的 LLM 监控和评估工具

GPU性能监测GithubLLM性能监测OpenLITOpenTelemetry开源项目成本追踪

OpenLIT 是一款 OpenTelemetry 原生的工具，帮助开发者在生产环境中监控 LLM 应用的性能。它能够自动收集 LLM 的输入输出元数据，监控自托管 LLM 的 GPU 性能。OpenLIT 可以无缝集成 OpenAI 和 HuggingFace 等流行 LLM 提供商，只需一行代码即可实现性能监控。此外，还能跟踪自定义和微调模型的成本，优化资源使用并提高系统可靠性。

oneuptime - 开源一体化可观测平台助力提升服务可靠性

GithubOneUptime事件管理开源项目日志分析服务可用性监控平台

OneUptime是一个综合性开源可观测平台，整合了监控、状态页面、事件管理、待命轮值、日志分析和性能跟踪等功能。该平台可取代多个单一工具，为团队提供高效的在线服务管理方案，有助于提高服务稳定性。OneUptime支持云服务和自托管部署，适用于不同规模的团队。

gping - 实时可视化网络延迟和命令执行时间的开源工具

Githubgping命令行工具图形化ping开源项目性能监测网络ping工具

gping是一款开源的网络分析工具，将传统ping命令功能与图形界面结合。它支持实时监控多个主机的网络延迟，并可通过--cmd选项可视化命令执行时间。gping具有自定义颜色和跨平台兼容等特性，为网络管理员和开发者提供了直观的性能分析方式。该工具在GitHub上开源，适用于Windows、Mac和Linux系统。

Hot - Mac菜单栏应用实时监测CPU性能和温度

CPU监控GithubHotmacOS开源项目性能优化系统工具

Hot是一款macOS菜单栏应用，用于监测CPU性能和温度。该应用适用于Intel和Apple Silicon芯片的Mac电脑，能实时显示CPU速度限制和温度。在Intel机型上，Hot还能显示调度器限制和可用CPU数量；在Apple Silicon机型上，它展示系统热压力并提供传感器图表视图。通过颜色变化，Hot直观地指示CPU性能状态，为Mac用户提供系统性能监控功能。

docker-nvidia-glx-desktop - KDE Plasma容器化桌面环境支持NVIDIA GPU远程访问

DockerGithubKDE PlasmaKubernetesNVIDIAWebRTC开源项目

这是一个基于KDE Plasma的容器化桌面环境项目，为Kubernetes优化设计。支持通过NVIDIA GPU实现OpenGL、Vulkan和Wine/Proton功能，利用WebRTC和HTML5技术提供远程云/HPC图形或游戏流媒体服务。采用独立X.Org X11服务器，无需额外主机配置。提供Selkies-GStreamer和KasmVNC两种Web界面，满足不同远程访问需求。

TensorRT - 优化深度学习推理的开源平台

CUDADockerGithubNVIDIAONNXTensorRT开源项目

NVIDIA TensorRT 开源软件提供插件和 ONNX 解析器的源码，展示 TensorRT 平台功能的示例应用。这些组件是 TensorRT GA 版本的一部分，并包含扩展和修复。用户可以轻松安装 TensorRT Python 包或根据构建指南编译。企业用户可使用 NVIDIA AI Enterprise 套件，并可加入 TensorRT 社区获取最新产品更新和最佳实践。

nvidia-docker - 已过渡至NVIDIA Container Toolkit的GPU容器化工具

DockerGPU虚拟化GithubNVIDIA Container Toolkit容器技术开源项目弃用公告

nvidia-docker是一个用于在Docker容器中使用NVIDIA GPU的工具，现已被NVIDIA Container Toolkit取代。尽管该项目已被弃用，其功能已整合到NVIDIA Container Toolkit中。用户可通过NVIDIA Container Toolkit配置Docker使用NVIDIA Container Runtime，实现GPU容器化。NVIDIA Container Toolkit提供了更全面的GPU容器管理解决方案，成为nvidia-docker的后续发展。

Displacement-MicroMap-Toolkit - NVIDIA置换微网格工具包创建与查看解决方案

GithubNVIDIA工具包开发开源项目微置换图渲染

NVIDIA置换微网格工具包提供库、样例和工具,用于创建和查看置换微网格。它支持gltf格式资产处理,包含置换微贴图烘焙和GPU加速重网格化功能。工具包配备图形化工作台,便于微网格检查和工具交互。基于Displacement Micro-Map技术,需要支持VK_NV_displacement_micromap的驱动程序。

WinTune - 多功能 Windows 系统优化与管理工具

GithubWinTuneWindows优化启动管理器多语言支持开源项目系统调整

WinTune 是一款多功能的 Windows 系统优化工具，集成了系统、隐私和资源管理器优化等功能。该工具提供启动项管理、hosts 编辑和开始菜单清理等实用选项，支持多语言和多主题。通过直观界面和详细提示，用户可轻松优化系统性能。WinTune 支持配置文件的保存和加载，适用于 Windows 10 及更高版本，包括服务器版本。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com