cutlass

高性能矩阵乘法与混合精度计算的CUDA C++模板库

CUTLASS GEMM CUDA 高性能矩阵运算 Tensor Core Github 开源项目

CUTLASS是一个高性能CUDA C++模板库，旨在高效实现矩阵乘法(GEMM)及其扩展运算。支持各种精度与多个NVIDIA架构，如Volta、Turing、Ampere和Hopper。该库的模块化设计方便用户构建和优化自定义核心和应用程序。3.5.1版本新增特性以提升性能并增加新架构支持。

FaissGPU加速Github向量相似度搜索开源项目聚类高维向量

Faiss是一个开源的高性能向量搜索和聚类库，专为大规模数据集设计。它支持多种索引方法，能够在搜索速度、结果质量和内存使用之间实现平衡。Faiss适用于推荐系统、图像检索等机器学习应用，可处理从小型到超大规模的向量数据。该库由Meta AI研究团队开发，提供C++和Python接口，支持CPU和GPU计算，为高维向量处理提供了高效解决方案。

cucim - 提升多维图像处理性能的开源库

GPU加速GithubRAPIDScuCIM图像处理多维图像开源项目

cuCIM 是一个开源的高性能多维图像处理和计算机视觉软件库，应用于生物医学、地理空间、材料科学、生命科学和遥感领域。利用基于 GPU 的加速技术，cuCIM 提供了增强的大规模和多维 TIFF 文件处理能力，并且支持简便的 Python 接口和多种图像格式，如 Aperio ScanScope 虚拟切片、Philips TIFF 和多分辨率压缩 TIFF 文件。

nccl-rdma-sharp-plugins - NCCL插件，支持RDMA和SHARP的GPU通信优化工具

CUDAGithubMOFEDNCCLRDMASHARP开源项目

nccl-rdma-sharp-plugins是NVIDIA NCCL库的扩展插件，为GPU通信提供RDMA和SHARP支持。该项目依赖MOFED、CUDA等组件，使用GNU autotools进行构建。通过优化GPU间数据交换，该插件可提升分布式深度学习等场景的通信效率。项目开源，适合需要高性能GPU通信的开发者和研究人员使用。

monster - 现代C++模板元编程框架助力编译时算法开发

C++模板元编程GithubMonster序列操作开源项目编译时算法高阶元函数

Monster是一款基于C++20的模板元编程框架，专为编译时算法和序列操作设计。它提供了一套完整的工具，支持纯类型编程，并充分利用了概念和Lambda模板等现代C++特性。作为一个仅包含头文件的库，Monster无需额外依赖，适用于各种需要高效编译时计算的项目。该框架通过简化高级模板元编程的复杂性，使开发者能更轻松地实现和维护相关代码。

matrix - 矩阵操作与计算库，支持多种线性代数应用

Githubml-matrix库使用开源项目矩阵操作矩阵数学矩阵运算

ml-matrix是Zakodium维护的矩阵操作与计算库，兼容ES和CommonJS模块。提供详细的API文档和示例，包括标准操作、就地操作、数学操作和矩阵操作。支持多种矩阵分解方法和线性回归问题。通过简单的安装命令，可进行矩阵创建、操作和转换，适用于各种线性代数应用场景，提高计算效率。

deep-diamond - 基于Clojure的高性能深度学习库支持CPU和GPU加速

Clojure库Deep DiamondGithub优化计算开源项目张量计算神经网络

Deep Diamond是基于Clojure的深度学习库，专注于快速张量运算和神经网络计算。项目利用优化的本地库，支持CPU和GPU加速，目前处于Alpha阶段。它为开发者提供高效的深度学习工具，与作者的AI编程书籍系列同步更新。Deep Diamond是一个开源项目，遵循Eclipse Public License。

dlprimitives - 开源跨平台深度学习与推理工具库

GPUGithubONNXOpenCL开源项目深度学习跨平台

DLPrimitives是一个开源项目，旨在提供跨平台的OpenCL深度学习和推理工具。该项目创建了支持多种GPU架构的深度学习原语库和高效推理库。DLPrimitives的目标包括开发简约的深度学习框架，并与PyTorch、TensorFlow等主流框架集成，使OpenCL API在深度学习领域得到广泛应用。目前，DLPrimitives已支持多种神经网络模型，并在AMD、Intel、NVIDIA等多种GPU上进行了测试。

CTranslate2 - 高效的Transformer模型推理库，提供多种性能优化方案

CTranslate2Github并行执行开源项目性能优化模型压缩转换器模型

CTranslate2是一个用于Transformer模型高效推理的C++和Python库，通过权重量化、层融合、批次重排序等技术，显著提升CPU和GPU上的执行速度并减少内存占用。支持多种模型类型，包括编码器-解码器、仅解码器和仅编码器模型，兼容OpenNMT-py、OpenNMT-tf、Fairseq等框架。其主要特点包括自动CPU检测、代码分发、并行和异步执行以及动态内存使用。

julia - 科技计算领域的高性能动态编程语言

GithubJulia开源开源项目技术计算编程语言高性能

Julia语言为科技计算领域提供了高性能的动态编程环境。它支持并行和分布式计算，拥有活跃的社区和丰富的包生态系统。Julia在数值计算和数据分析方面表现优异，适用于机器学习、科学模拟和金融建模等领域。该语言融合了高性能与易用性，为科研和工程应用提供了强大的工具。

matmulfreellm - 高效的无矩阵乘法语言模型，完全兼容Transformers库

GithubMatMul-Free LMTransformer++开源项目深度学习矩阵乘法语言模型

MatMul-Free LM是一种无需矩阵乘法操作的高效语言模型架构，兼容🤗 Transformers库，支持370M至2.7B参数的模型。该模型使用高效的三值权重，在计算效率和性能提升方面表现优异。安装需求包括PyTorch、Triton和einops。用户可以轻松初始化模型，并使用预训练模型进行文本生成，适用于各种高效语言建模应用场景。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com