GraphRAG4OpenWebUI：整合微软GraphRAG技术的开放式Web界面信息检索系统

GraphRAG4OpenWebUI

GraphRAG4OpenWebUI：revolutionizing信息检索的新纪元

在当今信息爆炸的时代，如何快速、准确地从海量数据中获取所需信息已成为一个巨大的挑战。为了应对这一挑战，微软研究院开发了GraphRAG（Graph-based Retrieval-Augmented Generation）技术，这是一种基于图的检索增强生成技术。而GraphRAG4OpenWebUI项目则将这一尖端技术与开放式Web用户界面（Open WebUI）完美结合，为用户提供了一个强大而灵活的信息检索系统。

项目概览：bridging先进技术与实际应用

GraphRAG4OpenWebUI的主要目标是为Open WebUI提供一个便捷的接口，以充分利用GraphRAG的强大功能。该项目整合了三种主要的检索方法，并提供了一个全面的搜索选项，使用户能够获得深入而精确的搜索结果。这种创新性的组合不仅提高了搜索效率，还大大增强了结果的相关性和准确性。

GraphRAG4OpenWebUI概览

核心检索功能：多维度的信息获取

本地搜索
- 利用GraphRAG技术在本地知识库中进行高效检索
- 适用于快速访问预定义的结构化信息
- 利用图结构提高检索准确性和相关性
全局搜索
- 在更广泛的范围内搜索信息，超越本地知识库的限制
- 适用于需要更全面信息的查询
- 利用GraphRAG的全局上下文理解能力，提供更丰富的搜索结果
Tavily搜索
- 集成外部Tavily搜索API
- 提供额外的互联网搜索能力，扩展信息来源
- 适用于需要最新或广泛Web信息的查询
全模型搜索
- 结合上述所有搜索方法
- 提供最全面的搜索结果，满足复杂的信息需求
- 自动整合和排序来自不同来源的信息

这种多维度的检索方法确保了用户可以从多个角度获取所需信息，大大提高了搜索的全面性和准确性。

本地LLM和嵌入模型支持：privacy与flexibility的完美平衡

GraphRAG4OpenWebUI现在支持使用本地语言模型（LLMs）和嵌入模型，这大大增加了项目的灵活性和隐私保护能力。具体支持的本地模型包括：

Ollama
- 支持通过Ollama运行的各种开源LLMs，如Llama 2、Mistral等
- 可以通过设置API_BASE环境变量来指向Ollama的API端点进行配置
LM Studio
- 兼容LM Studio运行的模型
- 通过配置API_BASE环境变量连接到LM Studio的服务
本地嵌入模型
- 支持使用本地运行的嵌入模型，如SentenceTransformers
- 通过设置GRAPHRAG_EMBEDDING_MODEL环境变量来指定要使用的嵌入模型

本地模型支持

这种对本地模型的支持使得GraphRAG4OpenWebUI能够在不依赖外部API的情况下运行，从而增强了数据隐私保护并降低了使用成本。这对于那些对数据安全性要求较高或希望减少API调用成本的用户来说尤为重要。

安装与配置：简单易行的部署流程

GraphRAG4OpenWebUI的安装过程简单直观，确保了即使是技术背景不太深厚的用户也能轻松部署。以下是安装的基本步骤：

克隆仓库：

git clone https://github.com/your-username/GraphRAG4OpenWebUI.git  
cd GraphRAG4OpenWebUI

创建并激活虚拟环境：

python -m venv venv  
source venv/bin/activate  # 在Windows上使用 venv\Scripts\activate

安装依赖：
```
pip install -r requirements.txt  
```

在运行API之前，需要设置一些环境变量。这可以通过创建一个.env文件或直接在终端中导出来完成。主要的环境变量包括TAVILY API密钥、输入目录路径、LLM和嵌入模型的API密钥等。

使用方法：灵活多样的API调用

GraphRAG4OpenWebUI提供了简洁而强大的API端点，使得集成变得异常简单：

启动服务器：服务器将在http://localhost:8012上运行。
API端点：
- /v1/chat/completions：用于执行搜索的POST请求
- /v1/models：用于检索可用模型列表的GET请求
与Open WebUI集成：在Open WebUI配置中，将API端点设置为http://localhost:8012/v1/chat/completions，这将允许Open WebUI使用GraphRAG4OpenWebUI的搜索功能。

示例搜索请求：

import requests  
import json  

url = "http://localhost:8012/v1/chat/completions"  
headers = {"Content-Type": "application/json"}  
data = {  
    "model": "full-model:latest",  
    "messages": [{"role": "user", "content": "Your search query"}],  
    "temperature": 0.7  
}  

response = requests.post(url, headers=headers, data=json.dumps(data))  
print(response.json())