FastEmbed-rs: 高效的Rust向量嵌入库

fastembed-rs

FastEmbed-rs: 高效的Rust向量嵌入库

FastEmbed-rs是一个强大而高效的Rust库,用于生成文本和图像的向量嵌入。它为开发人员提供了一种简单而快速的方法来实现各种机器学习和自然语言处理任务。本文将深入探讨FastEmbed-rs的特性、用法以及它如何在性能和准确性之间取得平衡。

主要特性

FastEmbed-rs具有以下几个突出的特点:

同步使用支持: 无需依赖Tokio等异步运行时,可以直接在同步代码中使用。
高性能ONNX推理: 使用@pykeio/ort库进行ONNX模型推理,确保高效的计算。
快速分词: 集成了@huggingface/tokenizers库,实现快速准确的文本编码。
并行批处理: 利用@rayon-rs/rayon库实现并行化,大幅提升批量嵌入生成的速度。
多种预训练模型: 支持多种文本和图像嵌入模型,以及重排序模型,满足不同应用场景的需求。

支持的模型

FastEmbed-rs支持多种预训练模型,包括:

文本嵌入模型: 如BAAI/bge-small-en-v1.5(默认)、sentence-transformers/all-MiniLM-L6-v2等。
稀疏文本嵌入模型: prithivida/Splade_PP_en_v1。
图像嵌入模型: Qdrant/clip-ViT-B-32-vision(默认)、Qdrant/resnet50-onnx等。
重排序模型: BAAI/bge-reranker-base、jinaai/jina-reranker-v1-turbo-en等。

这些模型覆盖了广泛的应用场景,使FastEmbed-rs能够适应各种不同的任务需求。

安装与使用

要在Rust项目中使用FastEmbed-rs,只需在Cargo.toml文件中添加以下依赖:

[dependencies]
fastembed = "3"

使用FastEmbed-rs生成文本嵌入的示例代码如下:

use fastembed::{TextEmbedding, InitOptions, EmbeddingModel};

// 使用默认配置初始化模型
let model = TextEmbedding::try_new(Default::default())?;

// 准备要嵌入的文本
let documents = vec![
    "passage: Hello, World!",
    "query: Hello, World!",
    "passage: This is an example passage.",
    "fastembed-rs is licensed under Apache 2.0"
];

// 生成嵌入向量
let embeddings = model.embed(documents, None)?;

println!("Embeddings length: {}", embeddings.len());
println!("Embedding dimension: {}", embeddings[0].len());

对于图像嵌入和候选重排序,FastEmbed-rs也提供了类似简洁的API。