Logo
Project Icon

nvshare

多进程安全共享GPU的开源解决方案

nvshareGPU共享Kubernetes内存管理CUDAGithub开源项目

nvshare是一个开源的GPU共享机制,支持多个进程或Kubernetes容器在同一GPU上安全并发运行。它利用统一内存API和系统RAM作为交换空间,使每个进程都能访问全部GPU内存。通过nvshare-scheduler管理GPU访问时间,有效避免内存抖动。这种方案适用于GPU使用呈突发性的场景,如交互式开发环境中的Jupyter notebooks等。

访问官网访问官网GithubGithub
介绍相关项目
jetson_stats - NVIDIA Jetson系列设备监控与管理工具
DockerGithubNVIDIA Jetsonjetson-stats开源项目监控工具系统性能
jetson-stats是一款为NVIDIA Jetson系列设备开发的监控和管理工具。它可以解析硬件架构信息，实时监控CPU、GPU、内存和风扇等关键指标，并支持NVP模型和jetson_clocks控制。这个工具不仅可以集成到Python脚本中，还支持Docker容器化部署，使用时无需超级用户权限。jetson-stats与所有NVIDIA Jetpack版本兼容，通过jtop界面提供了直观的设备监控和管理功能。
skypilot - 高效部署AI和批处理作业至全球云平台
GPUGithubLLMSkyPilot云计算开源项目成本节约热门
SkyPilot是一个为LLMs和AI提供的框架，支持在任意云平台运行，最大化GPU利用率和降低成本。该框架通过自动管理作业队列，简化了扩展操作，还提供了对象存储的简便接入。用户可以在全球任一区域的云中自动故障转移，使用管理型Spot实例以较低成本运行，同时自动选择成本最优的机型和区域。
BERT-GPU - 单机多GPU加速BERT预训练的开源实现
BERTGithub多GPU预训练开源项目数据并行深度学习自然语言处理
BERT-GPU项目为BERT模型在单机多GPU环境下的预训练提供了开源实现。该项目无需Horovod即可实现数据并行，通过增加GPU数量扩大批处理规模，从而加速训练过程。项目包含详细的训练流程和参数配置说明，并提供了下游任务的实验结果。这种方法在维持模型性能的同时，有效提升了预训练效率。
community - Kubeflow社区 机器学习平台的开源协作中心
GithubKubeflow开源社区开源项目机器学习平台行为准则贡献指南
Kubeflow社区为机器学习平台提供开放、包容的协作环境。该社区鼓励各界人士参与讨论、会议和项目贡献，并遵循行为准则以确保公平参与。社区成员可通过提出创意和修复问题来推动项目发展。此外，社区制定了品牌使用指南，规范Kubeflow商标应用。社区仓库中的设计提案和流程文档为Kubeflow的持续演进提供了方向。
cuvs - 高性能GPU向量搜索与聚类框架
GPUGithubRAPIDScuVS向量搜索开源项目聚类算法
cuVS是一个开源的GPU向量搜索和聚类框架，专注于提供高性能的近似最近邻搜索和聚类功能。它支持C、C++、Python和Rust等多种编程语言，实现了CAGRA等先进算法。开发者可以直接使用cuVS，也可将其集成到其他系统中，从而在向量相似度搜索和聚类任务中充分利用GPU加速能力。
kubeflow - 简单、可移植且可扩展的Kubernetes上的AI/ML平台
AIGithubKubeflowKubernetes开源项目机器学习
Kubeflow项目专注于在Kubernetes上简化、可移植且可扩展的AI/ML解决方案。它包含多个开源组件，支持机器学习生命周期的各个阶段，如模型服务、实验管理和数据流水线等。提供丰富的官方文档和社区支持，用户可以通过GitHub获取详细信息和技术支持，这是构建AI/ML应用的理想工具。
jetson-rdma-picoevb - FPGA实现的GPUDirect RDMA最小化演示项目
CUDAFPGAGPUDirect RDMAGithubPCIeXilinx Vivado开源项目
jetson-rdma-picoevb项目展示了基于FPGA的GPUDirect RDMA最小化实现。该项目允许PCIe设备直接访问CUDA内存，实现CUDA与PCIe设备间零拷贝数据共享。支持Jetson AGX Xavier、Drive AGX Xavier和装有CUDA驱动的PC。项目涵盖FPGA配置、Linux驱动和用户应用，提供完整RDMA测试环境。
Deep-learning-in-cloud - 深度学习云计算资源和工具综合指南
GithubMLOps云GPU免费计算资源开源项目模型部署深度学习
这个开源项目汇集了云端深度学习资源和工具信息。内容包括GPU云服务比较、云GPU提供商列表、定价和试用信息、模型部署平台、MLOps工具以及学术优惠。项目旨在帮助开发者和企业选择合适的云计算资源，提高模型训练效率并降低成本。此外还提供了模型部署和MLOps相关指导，为深度学习全生命周期提供参考。无论是个人开发者还是企业，都能在这里找到适合自己需求的云计算资源和工具。
vasttools - 面向GPU云平台的综合管理优化工具
AI计算GPU托管GithubVast.ai云服务开源工具开源项目
vasttools是针对Vast.ai等GPU云平台的综合工具集，提供服务器安装指南、性能测试、温度监控和超频管理等功能。它还包含分析仪表盘、自动价格更新等高级特性，全面优化GPU服务器性能和管理效率，为云主机提供商和用户提供多方位支持。
TensorRT - 优化深度学习推理的开源平台
CUDADockerGithubNVIDIAONNXTensorRT开源项目
NVIDIA TensorRT 开源软件提供插件和 ONNX 解析器的源码，展示 TensorRT 平台功能的示例应用。这些组件是 TensorRT GA 版本的一部分，并包含扩展和修复。用户可以轻松安装 TensorRT Python 包或根据构建指南编译。企业用户可使用 NVIDIA AI Enterprise 套件，并可加入 TensorRT 社区获取最新产品更新和最佳实践。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号