Logo
Project Icon

raft

可复用CUDA函数库加速向量搜索与机器学习

RAFTGPU加速机器学习向量搜索CUDAGithub开源项目

RAFT是一个CUDA加速的C++头文件库，为机器学习和信息检索提供基础算法和原语。它实现了先进的向量相似度搜索方法，包括暴力搜索、IVF-Flat、IVF-PQ和CAGRA。RAFT还提供可重用原语，用于构建涵盖数据生成、模型评估、分类回归、聚类等领域的机器学习算法。通过跨项目复用和集中核心计算，RAFT加速了算法开发，并使未来优化能广泛应用于各种算法。

访问官网访问官网GithubGithub文档文档
介绍相关项目
raft - 异步C语言Raft共识算法实现
GithubRaftdqlitelibraft共识协议分布式系统开源项目
raft是一个C语言实现的Raft共识协议库，为分布式系统提供高效可靠的共识机制。它采用模块化设计，核心部分实现Raft算法逻辑，并提供可插拔的I/O接口。该库支持领导者选举、日志复制、日志压缩和成员变更等基本功能，还包含性能优化选项。raft使用libuv提供默认I/O实现，并支持LZ4压缩，适用于构建各类分布式应用。raft库特别适用于需要强一致性的分布式系统，如分布式数据库、配置管理系统等。其异步设计和优化选项使其在高并发场景下表现出色。
faiss - 快速向量搜索与聚类库
FaissGPU加速Github向量相似度搜索开源项目聚类高维向量
Faiss是一个开源的高性能向量搜索和聚类库，专为大规模数据集设计。它支持多种索引方法，能够在搜索速度、结果质量和内存使用之间实现平衡。Faiss适用于推荐系统、图像检索等机器学习应用，可处理从小型到超大规模的向量数据。该库由Meta AI研究团队开发，提供C++和Python接口，支持CPU和GPU计算，为高维向量处理提供了高效解决方案。
cuvs - 高性能GPU向量搜索与聚类框架
GPUGithubRAPIDScuVS向量搜索开源项目聚类算法
cuVS是一个开源的GPU向量搜索和聚类框架，专注于提供高性能的近似最近邻搜索和聚类功能。它支持C、C++、Python和Rust等多种编程语言，实现了CAGRA等先进算法。开发者可以直接使用cuVS，也可将其集成到其他系统中，从而在向量相似度搜索和聚类任务中充分利用GPU加速能力。
fastRAG - 检索增强生成模型的构建与应用探索
ColBERTGithubHaystackLLMONNX RuntimefastRAG开源项目
fastRAG是一个专为构建和优化检索增强生成模型的研究框架，集成了最先进的LLM和信息检索技术。它为研究人员和开发人员提供了一整套工具，支持在Intel硬件上进行优化，并兼容Haystack自定义组件。其主要特点包括对多模态和聊天演示的支持、优化的嵌入模型和索引修改功能，以及与Haystack v2+的兼容性。
flashlight - 用C++编写的机器学习库
C++FlashlightGithub开源项目机器学习神经网络高性能
Flashlight是完全用C++编写的灵活高效的机器学习库，源自Facebook AI Research及其他知名项目。它包括内部接口可修改、核心小于10 MB以及高性能默认设置等特点，支持自动语音识别、图像分类、物体检测和语言建模等应用。提供简单的安装方式和全面的文档，适合研究者和开发者使用。
autofaiss - 自动构建高效Faiss近邻搜索索引
AutoFaissFaissGithubKNN索引嵌入向量开源项目相似度搜索
AutoFaiss是一个开源工具，用于自动创建高效的Faiss近邻搜索索引。该工具根据内存和查询速度限制，自动选择最佳索引参数，以获得最高召回率。AutoFaiss能处理大规模数据集，在有限内存下构建高效索引，实现毫秒级查询。它提供Python API和命令行接口，支持内存和磁盘上的嵌入向量，并可与PySpark集成进行分布式索引构建。
tevatron - 神经检索模型训练与推理工具
GithubHuggingFaceLLM神经检索模型LoRA微调Mistral-7BTevatron开源项目
Tevatron提供高效工具包，支持在GPU和TPU上大规模训练和推理神经检索模型，集成DeepSpeed和LoRA等技术，可加载HuggingFace的预训练模型，适用于神经检索和开放域QA任务。
Daft - Rust实现的分布式数据处理引擎 支持多模态分析
DaftGithub分布式计算多模态数据开源项目数据处理查询优化
Daft是一个Rust实现的分布式查询引擎，为Python提供大规模数据处理能力。它提供交互式API、查询优化、数据目录集成、多模态类型系统和Apache Arrow兼容性。Daft可处理图像、嵌入向量等复杂数据，支持交互式和分布式计算，适用于多种数据分析场景。其云优化设计带来高效I/O性能。
awesome-vector-search - 向量搜索技术资源大全,引擎、框架、库与研究
Apache CassandraFaissGithub向量搜索引擎向量数据库开源项目近似最近邻搜索
本项目汇集了向量搜索领域的综合技术资源，包括框架、引擎、库、云服务和研究论文。内容涵盖Qdrant、Milvus等独立服务，Faiss、ScaNN等库，以及Pinecone、Zilliz Cloud等云服务。此外，收录的研究论文为算法优化提供了理论支持。开发者可借此构建高效搜索应用，研究人员则能深入了解最新算法进展。
resource-stream - CUDA和GPU加速计算综合资源库
CUDAGPU编程GithubNVIDIA并行计算开源项目性能优化
Resource Stream汇集了丰富的CUDA和GPU加速计算资源，包括书籍、论文、教程和代码实现。项目涵盖Triton和torch.compile()等高级优化工具，为开发者提供全面的学习材料和实践指南，助力高效并行计算和GPU性能优化。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号