Project Icon

ucc

统一集体通信库 高性能HPC、AI/ML和I/O通信解决方案

UCC(Unified Collective Communication)是一个面向高性能计算、人工智能和大规模I/O的开源集体通信库。它提供灵活且功能丰富的API,支持非阻塞操作、多样化资源分配和同步模型。UCC架构模块化,集成了UCX、SHARP、CUDA和NCCL等多种传输技术,并可无缝对接Open MPI。这一设计使UCC能够在各种计算环境中实现高度可扩展的性能表现。

ucx - 经过生产验证的通信框架
GithubUCXUnified Communication X低延迟开源项目通信框架高带宽
UCX是一个屡获殊荣且经过优化的通信框架,适用于现代高带宽和低延迟网络。它提供的抽象通信原语可以充分利用最佳硬件资源和卸载能力,包括RDMA、TCP、GPU、共享内存和网络原子操作。UCX支持多种传输协议和CPU架构,如Infiniband、RoCE、CUDA及x86_64、Power8/9和Arm v8,为高性能计算领域提供稳定和高效的通信服务。
nccl - 优化GPU间通信的高性能库
GPU通信GithubNCCLNVIDIA并行计算开源项目深度学习
NCCL是NVIDIA开发的开源GPU通信库,为深度学习和高性能计算优化了全归约、广播等通信模式。它在PCIe、NVLink等平台上实现高带宽,支持单节点和多节点GPU应用。NCCL可用于任意数量的GPU,适配单进程和多进程(如MPI)环境,为AI和科学计算提供高效的通信解决方案。该项目提供简易的构建安装方法和灵活的编译选项,方便开发者根据需求优化性能。
cccl - 统一的CUDA C++核心库集合提升开发效率
C++CCCLCUDAGithubNVIDIA并行计算开源项目
CUDA C++ Core Libraries (CCCL) 整合了Thrust、CUB和libcudacxx三个主要CUDA C++库。CCCL为开发者提供高效、安全的编程工具,简化CUDA开发流程。该项目支持多个CUDA工具包版本,具有跨平台兼容性,并通过持续更新来确保API稳定和性能提升。CCCL旨在成为CUDA C++开发的标准库,为GPU编程提供全面支持。
ucall - 超高性能的JSON远程过程调用库
FastAPIGithubJSON-RPCUCall开源项目性能优化网络通信
UCall是一个基于JSON-RPC的远程过程调用库,性能显著优于FastAPI和gRPC。该库支持原生类型及numpy数组、PIL图像等自定义类型,适用于实际应用开发和多模态AI部署。UCall通过io_uring实现高效IO,并采用SIMD加速解析,即使在免费层服务器上也能实现卓越性能。此外,UCall还提供了简洁的Python接口和命令行工具,大大简化了远程调用过程。
cpp-ipc - 跨平台高性能进程间通信库
Githubcpp-ipc共享内存开源项目跨平台进程间通信高性能
cpp-ipc是一款为Linux和Windows平台开发的高性能进程间通信库。该库基于共享内存技术,支持C++17标准,无需额外依赖。cpp-ipc采用无锁或轻量级自旋锁,底层使用循环数组结构,支持单写多读和多写多读等多种通信模式。库默认采用广播模式,同时允许自定义读写方案,并实现了超时机制以避免长时间等待。
nccl-rdma-sharp-plugins - NCCL插件,支持RDMA和SHARP的GPU通信优化工具
CUDAGithubMOFEDNCCLRDMASHARP开源项目
nccl-rdma-sharp-plugins是NVIDIA NCCL库的扩展插件,为GPU通信提供RDMA和SHARP支持。该项目依赖MOFED、CUDA等组件,使用GNU autotools进行构建。通过优化GPU间数据交换,该插件可提升分布式深度学习等场景的通信效率。项目开源,适合需要高性能GPU通信的开发者和研究人员使用。
bcc - 基于eBPF的高性能内核追踪与分析工具包
BPFGithubLinux内核开源项目性能分析系统跟踪网络流量控制
BCC是基于eBPF技术的内核追踪和分析工具包,提供C语言编写内核工具的能力及Python和Lua前端接口。它简化了BPF程序开发,适用于性能分析、网络流量控制等任务。项目包含丰富的工具和示例,覆盖系统跟踪、内存管理、进程监控、性能优化、CPU分析、网络诊断和存储分析等多个领域。
HP-Socket - 跨平台高性能网络通信框架 支持大规模并发
C++GithubHP-Socket开源项目服务器组件网络框架高性能
该框架基于IOCP/EPOLL模型,通过内存池和私有堆技术实现高效内存管理。HP-Socket支持服务器、代理和客户端组件,适合大规模并发通信。框架提供C++和C接口,集成SSL加密和HTTP协议支持。项目包含详细开发文档和类图,并有MacOS及.NET版本的扩展。
quacc - 多功能的计算材料科学和量子化学平台
Atomic Simulation EnvironmentGithubquacc工作流管理开源项目计算材料科学量子化学
quacc(Quantum Accelerator)是一个计算材料科学和量子化学平台,专为大数据时代设计。该平台提供预制工作流程,支持本地、HPC和云端运行,通过统一接口兼容多种工作流管理方案。quacc基于原子模拟环境和Materials Project基础设施,整合社区资源。由普林斯顿大学Rosen研究组维护,quacc为研究者提供多功能、高效的计算工具。
universal - 高性能自定义算术类型C++模板库
C++GithubUniversal Numbers Library开源项目数值计算混合精度算术库
Universal C++模板库提供自定义算术类型,支持混合精度算法开发。可定制精度和动态范围,优化性能和能效。适用于嵌入式系统和深度学习等领域。仅头文件设计,可替代原生数值类型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号