fastembed-rs

基于Rust的无需Tokio依赖，支持同步操作的高效文本嵌入工具

FastEmbed-rs 文本嵌入 Rust 量化模型 ONNX Github 开源项目

FastEmbed-rs为基于Rust的高效文本嵌入工具，无需Tokio依赖，支持同步操作。允许使用Hugging Face等多种模型，并通过并行处理实现高效批量嵌入。支持加载自定义.ONNX模型，提供简洁API以快速实现文本嵌入和重排，适合追求高性能文本处理的开发者。

rust-llama.cpp - Rust语言下的LLaMA模型绑定库

GPUGithubLLama.cppRust开源项目模型绑定

rust-llama.cpp是一个开源项目，为LLaMA.cpp提供Rust语言绑定。这个库使开发者能在Rust环境中集成和使用LLaMA大语言模型。项目支持cuBLAS、OpenBLAS和OpenCL等硬件加速选项，并已实现GPU（Metal）支持。通过简洁的API接口，开发者可以方便地加载模型和生成文本。rust-llama.cpp还支持GGUF格式，为Rust开发者提供了一个功能全面的LLaMA模型集成工具。

ort - 使用Rust实现的高性能ONNX Runtime包装器

GPU加速GithubONNX RuntimeRustort开源项目机器学习推理

ort 是一个基于 Rust 的非官方 ONNX Runtime 1.18 包装器，能够加速 CPU 和 GPU 上的机器学习推理与训练。提供详细的指导文档、API参考和示例，并支持从 v1.x 迁移到 v2.0。Twitter、Bloop 和 Supabase 等项目均在使用ort。可通过 Discord 或 GitHub 讨论获取支持，欢迎在 Open Collective 上进行赞助。

napi-rs - Rust编写Node.js原生模块的跨平台框架

GithubNode.jsRustnapi-rs开源项目性能优化跨平台

napi-rs是一个基于Rust的Node.js原生模块开发框架。它支持Windows、macOS和Linux等多个平台，并兼容Node.js 10及以上版本。该框架提供简洁API，让开发者能够仅使用Rust和JavaScript工具链构建原生模块，无需依赖node-gyp。napi-rs支持BigInt、Buffer等多种数据类型，以及基于Future的异步编程模型。它还提供了便捷的CLI工具，简化了项目的构建和测试流程。支持异步函数、回调和多种数据类型绑定，简化了Rust和JavaScript之间的交互过程。

Embedefy - 高效嵌入向量生成平台助力多元AI应用增强

AI工具AI应用Embedefy向量空间嵌入数据表示

Embedefy是一个专业的嵌入向量生成平台，旨在简化AI应用的增强过程。该平台采用开源模型，支持用户灵活切换至自有基础设施。Embedefy广泛适用于检索增强生成(RAG)、模型微调、语义搜索、聚类、推荐、异常检测和分类等领域。通过提供API和PostgreSQL扩展，Embedefy使嵌入向量功能能够无缝集成到应用程序和数据库中，为AI开发提供强大支持。Embedefy提供高性价比的嵌入向量生成服务，特别适合处理大规模数据集，为各类AI项目提供高效、经济的解决方案。

text-splitter - Rust实现的文本分割库支持多种格式和分词方式

GithubRusttext-splitter分块开源项目文本处理语言模型

text-splitter是一个Rust实现的文本分割库，可将长文本智能分割为较小的语义块。它支持基于字符数、多种分词器和语义边界的分割方法，适用于纯文本、Markdown和代码等格式。该库在保持语义完整性的同时优化块大小，有助于解决大型语言模型的上下文限制问题。text-splitter提供简单的API和多种自定义选项，适用于各种NLP和文本处理任务。

langchain-rust - Rust版LangChain框架实现高效可组合LLM应用

GithubLLMLangChain Rust向量存储嵌入开源项目文档加载器

langchain-rust是LangChain在Rust中的实现，用于构建可组合的LLM应用。支持多种LLM如OpenAi、Azure OpenAi和Ollama，提供嵌入、向量存储、链式操作和多种工具集成功能。简单配置后，用户可快速启动对话链、问答链等应用。

openai-api-rs - Rust开发的OpenAI API非官方客户端库

CargoGithubOpenAI APIRustopenai-api-rs开源项目聊天补全

此Rust库提供了访问OpenAI API的便捷方式，支持如聊天、完成、编辑、图像、嵌入、音频和文件等主要功能。通过简单的配置和使用示例，用户可以快速集成OpenAI API到Rust应用中，并使用环境变量管理API密钥和基础URL。该项目遵循MIT许可证，详情请参考官方文档和示例。

burn - 一个基于Rust的深度学习框架

BurnGithub多后端支持开源项目性能优化深度学习自动化内核融合

Burn，一个全面而高效的基于Rust的深度学习框架，致力于提供前所未有的灵活性和便携性。配备了自动内核融合、异步执行以及线程安全技术，极大提升了性能。此外，Burn通过智能内存管理和硬件优化，支持多后端架构，确保无论是云端训练还是各种硬件部署，均可实现最佳表现。

gpt-fast - PyTorch原生高效文本生成项目

GithubPyTorchgpt-fast开源项目性能优化文本生成模型量化

gpt-fast是一个基于PyTorch的高效Transformer文本生成项目,代码精简(<1000行Python),仅依赖PyTorch和sentencepiece。项目特点包括极低延迟、int8/int4量化、推测解码和张量并行,支持NVIDIA和AMD GPU。gpt-fast不是框架或库,而是展示原生PyTorch性能的示例。它支持LLaMA系列和Mixtral 8x7B等模型,提供详细基准测试和多种优化技术。该项目实现了高效的文本生成,展现了PyTorch在AI领域的强大性能。

open-text-embeddings - 使用多源模型的OpenAI API兼容文本向量生成工具

GithubLangChainOpenAI APIembeddingsopen-text-embeddingssentence-transformers开源项目

该项目创建了与OpenAI API兼容的文本向量生成端点，支持多种开源句子转换模型，包括BAAI/bge-large-en、intfloat/e5-large-v2、sentence-transformers等。提供详细的本地和云端部署指南，方便用户在多种环境下运行服务器，实现高效查询与存储。用户也可通过Colab在线测试，体验开源文本向量生成的便捷性。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com