Project Icon

nccl-rdma-sharp-plugins

NCCL插件,支持RDMA和SHARP的GPU通信优化工具

nccl-rdma-sharp-plugins是NVIDIA NCCL库的扩展插件,为GPU通信提供RDMA和SHARP支持。该项目依赖MOFED、CUDA等组件,使用GNU autotools进行构建。通过优化GPU间数据交换,该插件可提升分布式深度学习等场景的通信效率。项目开源,适合需要高性能GPU通信的开发者和研究人员使用。

gpu.cpp - 简化跨平台GPU计算的轻量级库
C++库GPU计算GithubWGSLWebGPU开源项目跨平台
gpu.cpp是一个轻量级C++库,专注于通用原生GPU计算。它利用WebGPU规范作为可移植的低级GPU接口,支持在多种硬件上运行GPU代码。该库提供高效API,实现快速编译和运行周期,并最小化依赖。适用于GPU算法开发、神经网络实现、物理模拟等需要便携GPU计算的项目。gpu.cpp简化了个人设备上的GPU编程,让开发者能专注于算法实现。
DiffSharp - 开源张量库 支持可微分编程和机器学习
DiffSharpGithubPyTorch开源项目张量库微分编程机器学习
DiffSharp是一个开源张量库,专为可微分编程而设计。该项目采用F#语言开发,支持嵌套和混合模式微分,提供常用优化器、模型元素和可微概率分布。DiffSharp结合了PyTorch的命名习惯,支持LibTorch CUDA/C++张量和GPU加速,适用于机器学习、概率编程和优化等领域。它兼容Linux、macOS和Windows平台,可在Jupyter和Visual Studio Code中使用交互式笔记本。
FreeRDP - 开源远程桌面协议实现 跨平台高性能解决方案
FreeRDPGithub开源软件开源项目网络协议跨平台远程桌面协议
FreeRDP是Apache许可下的开源远程桌面协议(RDP)实现。该项目提供跨平台、高性能的远程桌面连接功能,支持多种架构和操作系统。FreeRDP注重互操作性,旨在提供灵活的远程计算体验。项目拥有活跃的社区,持续改进代码质量和更新功能。对于寻求可靠远程桌面解决方案的开发者和用户而言,FreeRDP是一个值得考虑的选择。
mlir-aie - MLIR驱动的AI引擎工具链 助力AI设备性能优化
AI EngineAMDGithubMLIRRyzen AIVersal开源项目
mlir-aie是一个基于MLIR的开源工具链,专为AMD Ryzen™ AI和Versal™等AI引擎设备设计。它通过多层抽象的MLIR表示,实现AI引擎核心编程、数据移动和阵列连接描述。项目提供Python API接口,支持后端代码生成,并集成AMD Vitis™软件中的AI引擎编译器。作为面向工具开发者的项目,mlir-aie提供AIE设备的低级访问,促进多样化编程模型的开发。
TensorRT - 提升PyTorch推理效率的工具
CUDAGithubPyTorchTensorRTTorch-TensorRT安装开源项目
Torch-TensorRT将TensorRT的强大功能引入PyTorch,用户仅需一行代码即可显著提升推理性能。该工具支持在多个平台上安装,包括PyPI和NVIDIA NGC PyTorch容器。通过torch.compile或导出式工作流,用户可以高效优化和部署模型。Torch-TensorRT依赖CUDA和TensorRT,与Linux和Windows等多种平台兼容。提供丰富资源,包括教程、工具和技术讲座,供用户学习使用。
Deep-learning-in-cloud - 深度学习云计算资源和工具综合指南
GithubMLOps云GPU免费计算资源开源项目模型部署深度学习
这个开源项目汇集了云端深度学习资源和工具信息。内容包括GPU云服务比较、云GPU提供商列表、定价和试用信息、模型部署平台、MLOps工具以及学术优惠。项目旨在帮助开发者和企业选择合适的云计算资源,提高模型训练效率并降低成本。此外还提供了模型部署和MLOps相关指导,为深度学习全生命周期提供参考。无论是个人开发者还是企业,都能在这里找到适合自己需求的云计算资源和工具。
cutlass-kernels - 针对大语言模型优化的高效CUDA库
CUDACUTLASSFlashAttention-3GPU加速Github开源项目深度学习
CUTLASS Kernels是一个针对大语言模型(LLM)优化的CUDA库,提供了FlashAttention-3的高效实现。该项目支持TF32模式,显著提升性能,主要用于加速LLM的训练和推理过程。开发者可以轻松集成这些核心,为构建高性能AI应用提供强大的基础支持。CUTLASS Kernels需要配合NVIDIA的CUTLASS项目使用,为LLM开发提供了关键的性能优化工具。
Windows-Machine-Learning - 低延迟的机器学习推理API,适用于各种应用
GithubONNX RuntimeWindows Machine Learning工具开源项目机器学习模型优化
Windows Machine Learning通过ONNX Runtime和DirectML提供高效低延迟的机器学习推理API,适用于框架、游戏等实时应用。项目还包含多种模型转换和优化工具,示例以及开发者工具,帮助开发者在Windows应用中轻松实现机器学习。了解更多关于模型样本、高级场景和开发者工具的信息,并访问详细的教程和指南。
dlpack - 促进深度学习框架间张量共享与协作
DLPackGithub内存共享开源项目张量结构深度学习框架
DLPack是一种开放的内存张量结构,用于深度学习框架间的张量共享。它简化了框架间的运算符共享,便于封装供应商级运算符实现,支持快速切换后端实现。作为跨框架复用的桥梁,DLPack不直接实现张量和操作,而是促进深度学习生态系统的协作,为用户提供更多运算符选择和框架混合使用的可能性。
libplacebo - 跨平台GPU加速视频处理开源库
GPU加速Githublibplacebo开源项目着色器系统色彩管理视频渲染
libplacebo是一个开源的GPU加速视频处理库,提供高质量上采样、HDR色调映射和色彩管理等功能。支持Vulkan、OpenGL和Direct3D 11,并提供高级API。该库已被VLC和FFmpeg等项目采用,适用于需要高性能视频渲染的应用。libplacebo注重算法质量和API易用性,为开发者提供强大而简洁的视频处理解决方案。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号