#SPLADE

pgvecto.rs是一个Postgres扩展，提供超低延迟、高精度的向量相似搜索功能，支持稀疏向量和全文本搜索。该扩展由Rust编写，基于pgrx框架，具备完整的SQL支持和异步索引等特性，简化数据管理并提升性能。支持FP16/INT8数据类型和二进制向量索引，是生产环境中集成前沿模型的理想选择。

本项目通过特定指令增强本地LLM的网页搜索能力，使用duckduckgo-search进行搜索，并使用LangChain的上下文压缩和Okapi BM25（或SPLADE）技术提取相关信息并添加至模型输出中。支持自定义正则表达式和网页信息读取，推荐使用Llama-3-8B-instruct模型以实现高效搜索与信息提取。提供多种搜索后端与关键词检索器选项，提高兼容性和适用性。

SPLADE项目使用BERT的MLM头和稀疏正则化来学习查询和文档的稀疏扩展，优化了检索性能。项目包含训练、索引和检索的代码，并支持在BEIR基准测试中评估。最新版本通过硬负样本采样、蒸馏和改进的预训练语言模型初始化，显著提升了检索效果。此外，SPLADE的稀疏表示优化了倒排索引的使用，提供了显式词汇匹配和可解释性等优点。经过优化的训练和正则化，SPLADE在域内外测试中表现优异，延迟性能与BM25相当。