Project Icon

nccl-rdma-sharp-plugins

NCCL插件,支持RDMA和SHARP的GPU通信优化工具

nccl-rdma-sharp-plugins是NVIDIA NCCL库的扩展插件,为GPU通信提供RDMA和SHARP支持。该项目依赖MOFED、CUDA等组件,使用GNU autotools进行构建。通过优化GPU间数据交换,该插件可提升分布式深度学习等场景的通信效率。项目开源,适合需要高性能GPU通信的开发者和研究人员使用。

nccl - 优化GPU间通信的高性能库
GPU通信GithubNCCLNVIDIA并行计算开源项目深度学习
NCCL是NVIDIA开发的开源GPU通信库,为深度学习和高性能计算优化了全归约、广播等通信模式。它在PCIe、NVLink等平台上实现高带宽,支持单节点和多节点GPU应用。NCCL可用于任意数量的GPU,适配单进程和多进程(如MPI)环境,为AI和科学计算提供高效的通信解决方案。该项目提供简易的构建安装方法和灵活的编译选项,方便开发者根据需求优化性能。
open-gpu-kernel-modules - NVIDIA驱动程序fork版实现RTX 4090 GPU间直接通信
GPUGithubLinux驱动NVIDIAP2P支持PCIe开源项目
这个项目是NVIDIA驱动程序的一个分支,为RTX 4090显卡添加了点对点(P2P)通信支持。通过直接利用PCIe总线进行GPU间数据传输,该方案绕过了传统的MAILBOXP2P接口。项目成功实现了P2P功能,并与NCCL兼容,可显著提高多GPU系统性能。这种创新方法遵循PCIe规范,有望被纳入上游驱动程序,为NVIDIA GPU用户提供更高效的计算能力。
jetson-rdma-picoevb - FPGA实现的GPUDirect RDMA最小化演示项目
CUDAFPGAGPUDirect RDMAGithubPCIeXilinx Vivado开源项目
jetson-rdma-picoevb项目展示了基于FPGA的GPUDirect RDMA最小化实现。该项目允许PCIe设备直接访问CUDA内存,实现CUDA与PCIe设备间零拷贝数据共享。支持Jetson AGX Xavier、Drive AGX Xavier和装有CUDA驱动的PC。项目涵盖FPGA配置、Linux驱动和用户应用,提供完整RDMA测试环境。
nvshare - 多进程安全共享GPU的开源解决方案
CUDAGPU共享GithubKubernetesnvshare内存管理开源项目
nvshare是一个开源的GPU共享机制,支持多个进程或Kubernetes容器在同一GPU上安全并发运行。它利用统一内存API和系统RAM作为交换空间,使每个进程都能访问全部GPU内存。通过nvshare-scheduler管理GPU访问时间,有效避免内存抖动。这种方案适用于GPU使用呈突发性的场景,如交互式开发环境中的Jupyter notebooks等。
ucc - 统一集体通信库 高性能HPC、AI/ML和I/O通信解决方案
APIGithubUCC开源软件开源项目集体通信高性能计算
UCC(Unified Collective Communication)是一个面向高性能计算、人工智能和大规模I/O的开源集体通信库。它提供灵活且功能丰富的API,支持非阻塞操作、多样化资源分配和同步模型。UCC架构模块化,集成了UCX、SHARP、CUDA和NCCL等多种传输技术,并可无缝对接Open MPI。这一设计使UCC能够在各种计算环境中实现高度可扩展的性能表现。
tensorflow-directml-plugin - DirectML驱动的TensorFlow硬件加速插件
DirectMLGPU加速GithubTensorFlowWindows开源项目机器学习
TensorFlow-DirectML-Plugin是基于DirectML的TensorFlow插件,为Windows 10和WSL提供跨厂商硬件加速。该插件利用Pluggable Device API,支持在DirectX 12兼容硬件上训练和推理机器学习模型。目前处于早期开发阶段,兼容Python 3.8-3.11,支持AMD、Intel和NVIDIA主流GPU。该插件旨在为Windows平台的TensorFlow用户提供更多硬件加速选择。
cccl - 统一的CUDA C++核心库集合提升开发效率
C++CCCLCUDAGithubNVIDIA并行计算开源项目
CUDA C++ Core Libraries (CCCL) 整合了Thrust、CUB和libcudacxx三个主要CUDA C++库。CCCL为开发者提供高效、安全的编程工具,简化CUDA开发流程。该项目支持多个CUDA工具包版本,具有跨平台兼容性,并通过持续更新来确保API稳定和性能提升。CCCL旨在成为CUDA C++开发的标准库,为GPU编程提供全面支持。
TensorRT - 优化深度学习推理的开源平台
CUDADockerGithubNVIDIAONNXTensorRT开源项目
NVIDIA TensorRT 开源软件提供插件和 ONNX 解析器的源码,展示 TensorRT 平台功能的示例应用。这些组件是 TensorRT GA 版本的一部分,并包含扩展和修复。用户可以轻松安装 TensorRT Python 包或根据构建指南编译。企业用户可使用 NVIDIA AI Enterprise 套件,并可加入 TensorRT 社区获取最新产品更新和最佳实践。
sharppcap - 跨平台高性能网络数据包捕获与分析库
.NET库GithubSharpPcaplibpcap开源项目网络抓包跨平台
SharpPcap是一款跨平台的.NET网络数据包捕获库,支持Linux、Windows和Mac系统。它提供实时设备和文件设备的数据包捕获、设备列表、统计信息、数据包读写等功能。通过使用ReadOnlySpan<>优化内存管理,并支持Berkeley数据包过滤器,SharpPcap为网络分析和安全研究提供了高效的工具支持。该库完全托管,易于集成,是网络开发者的理想选择。
ucx - 经过生产验证的通信框架
GithubUCXUnified Communication X低延迟开源项目通信框架高带宽
UCX是一个屡获殊荣且经过优化的通信框架,适用于现代高带宽和低延迟网络。它提供的抽象通信原语可以充分利用最佳硬件资源和卸载能力,包括RDMA、TCP、GPU、共享内存和网络原子操作。UCX支持多种传输协议和CPU架构,如Infiniband、RoCE、CUDA及x86_64、Power8/9和Arm v8,为高性能计算领域提供稳定和高效的通信服务。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号