Project Icon

nccl

优化GPU间通信的高性能库

NCCL是NVIDIA开发的开源GPU通信库,为深度学习和高性能计算优化了全归约、广播等通信模式。它在PCIe、NVLink等平台上实现高带宽,支持单节点和多节点GPU应用。NCCL可用于任意数量的GPU,适配单进程和多进程(如MPI)环境,为AI和科学计算提供高效的通信解决方案。该项目提供简易的构建安装方法和灵活的编译选项,方便开发者根据需求优化性能。

nccl-rdma-sharp-plugins - NCCL插件,支持RDMA和SHARP的GPU通信优化工具
CUDAGithubMOFEDNCCLRDMASHARP开源项目
nccl-rdma-sharp-plugins是NVIDIA NCCL库的扩展插件,为GPU通信提供RDMA和SHARP支持。该项目依赖MOFED、CUDA等组件,使用GNU autotools进行构建。通过优化GPU间数据交换,该插件可提升分布式深度学习等场景的通信效率。项目开源,适合需要高性能GPU通信的开发者和研究人员使用。
cccl - 统一的CUDA C++核心库集合提升开发效率
C++CCCLCUDAGithubNVIDIA并行计算开源项目
CUDA C++ Core Libraries (CCCL) 整合了Thrust、CUB和libcudacxx三个主要CUDA C++库。CCCL为开发者提供高效、安全的编程工具,简化CUDA开发流程。该项目支持多个CUDA工具包版本,具有跨平台兼容性,并通过持续更新来确保API稳定和性能提升。CCCL旨在成为CUDA C++开发的标准库,为GPU编程提供全面支持。
ucc - 统一集体通信库 高性能HPC、AI/ML和I/O通信解决方案
APIGithubUCC开源软件开源项目集体通信高性能计算
UCC(Unified Collective Communication)是一个面向高性能计算、人工智能和大规模I/O的开源集体通信库。它提供灵活且功能丰富的API,支持非阻塞操作、多样化资源分配和同步模型。UCC架构模块化,集成了UCX、SHARP、CUDA和NCCL等多种传输技术,并可无缝对接Open MPI。这一设计使UCC能够在各种计算环境中实现高度可扩展的性能表现。
open-gpu-kernel-modules - NVIDIA驱动程序fork版实现RTX 4090 GPU间直接通信
GPUGithubLinux驱动NVIDIAP2P支持PCIe开源项目
这个项目是NVIDIA驱动程序的一个分支,为RTX 4090显卡添加了点对点(P2P)通信支持。通过直接利用PCIe总线进行GPU间数据传输,该方案绕过了传统的MAILBOXP2P接口。项目成功实现了P2P功能,并与NCCL兼容,可显著提高多GPU系统性能。这种创新方法遵循PCIe规范,有望被纳入上游驱动程序,为NVIDIA GPU用户提供更高效的计算能力。
nvshare - 多进程安全共享GPU的开源解决方案
CUDAGPU共享GithubKubernetesnvshare内存管理开源项目
nvshare是一个开源的GPU共享机制,支持多个进程或Kubernetes容器在同一GPU上安全并发运行。它利用统一内存API和系统RAM作为交换空间,使每个进程都能访问全部GPU内存。通过nvshare-scheduler管理GPU访问时间,有效避免内存抖动。这种方案适用于GPU使用呈突发性的场景,如交互式开发环境中的Jupyter notebooks等。
ComputeLibrary - 优化Arm架构的开源机器学习函数库
ARM架构Compute LibraryGithub开源软件开源项目性能优化机器学习
ComputeLibrary是一个专为Arm架构优化的机器学习函数库,支持Cortex-A、Neoverse处理器和Mali GPU。它提供100多个低级机器学习函数,覆盖多种数据类型和卷积算法,并采用微架构优化、内核融合等先进技术。作为开源项目,ComputeLibrary具有高性能、高度可配置的特点,为Arm平台的机器学习应用开发提供了强大支持。
ncnn - 移动端神经网络推理框架
Githubncnn开源项目深度学习神经网络移动平台腾讯
ncnn 是一个专为移动端设计,无第三方依赖的开源神经网络推理框架。它支持跨平台功能,低内存占用及在手机CPU上的高速运算能力。利用 ncnn,开发者能够迅速在移动应用中部署深度学习模型,加入智能化功能。该框架已在众多应用程序中使用,如QQ和微信。同时,ncnn 支持 Vulkan API,优化了GPU加速功能,致使在移动设备上表现卓越。
nncf - Neural Network Compression Framework:高效神经网络推理压缩算法
GithubNeural Network Compression FrameworkONNXOpenVINOPyTorchTensorFlow开源项目
Neural Network Compression Framework (NNCF) 提供一套后训练和训练时的优化算法,用于在 OpenVINO 中优化神经网络推理,保证最小的精度损失。NNCF 支持 PyTorch、TensorFlow 和 ONNX 等模型,并提供示例展示不同压缩算法的使用案例。NNCF 还支持自动化模型图转换、分布式训练和多种算法的无缝组合,支持将压缩后的 PyTorch 模型导出为 ONNX 检查点及将 TensorFlow 模型导出为 SavedModel 格式。
ppl.llm.kernel.cuda - 优化大语言模型计算的CUDA内核库
AI计算CUDAGPU加速GithubPPL LLM开源项目深度学习
ppl.llm.kernel.cuda是PPL.LLM系统的核心组件,为大语言模型提供CUDA内核实现。该项目针对Ampere和Hopper架构优化,支持x86_64和arm64平台。它提供简单的构建流程,包含NCCL和JIT编译选项,便于性能调优。作为开源项目,ppl.llm.kernel.cuda旨在提高大规模语言模型的计算效率,为AI开发提供底层支持。
naturalcc - 弥合编程与自然语言的序列建模工具包
GithubNaturalCC代码理解开源项目机器学习自然语言处理软件工程
NaturalCC是一个开源的序列建模工具包,旨在缩小编程语言与自然语言之间的差距。它支持代码生成、补全、摘要等多项软件工程任务。该工具包采用模块化设计,集成了多个大型代码模型,支持多GPU训练和高效推理。NaturalCC还提供了预处理的基准数据集和评估工具,为代码智能研究与开发提供了全面的解决方案。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号