drqa

drqa项目介绍

drqa项目旨在构建一个强大的问答系统，通过结合Langchain和大型语言模型（LLMs），例如OpenAI的GPT3模型，来精确回答问题。该系统如何运作？让我们细细道来。

项目架构

该项目主要分为两个组件：后端和前端。

后端

后端使用Python编写，并采用FastAPI框架实现。主要功能包括：

• 请求处理：负责处理来自客户端的所有请求。
• 数据处理管道创建：将PDF文档转换为文本，然后将其拆分为更小的块。通过Langchain提供的数据加载器，支持其他文档类型。
• 嵌入处理：初始化嵌入模型，使用SentenceTransformers实现，以实现速度快和免费。默认情况下使用Qdrant云（免费层）来托管嵌入和文本文档以进行快速搜索和检索。这个可以替换为其他基于向量的数据库，如Pinecone, Weaviate, Elasticsearch等。

前端

前端使用React和Typescript开发，为用户提供交互界面。

快速开始指南

要使用Qdrant云，你需要注册并获取API_KEY和HOST_URL。或者，你也可以本地运行Qdrant。还需要OpenAI的API密钥。

1. 克隆代码库：

   git clone https://github.com/mallahyari/drqa.git
   

2. 设置.env文件，在backend/app目录下，包括以下信息：

   QDRANT_HOST=
   QDRANT_API_KEY=
   OPENAI_API_KEY=
   

3. 启动前端：

   cd frontend
   npm install
   npm start
   

4. 启动后端：

   • 创建虚拟环境。

   • 在backend/app目录下运行：

     pip install -r requirements.txt
     python main.py
     

项目优势

该项目不仅可用于构建自己的数据与LLMs结合的系统，同时也由于只在生成最后的响应时使用OpenAI，大大降低了API调用的成本。

未来改进

项目的未来发展可能包括：

• 流式功能：一旦响应可用，客户端将获取响应流。
• 缓存：通过缓存机制，对于相似或重复的问题，可以避免重新生成响应或调用API。
• UI改进：重新设计用户界面以提升用户体验。
• 多文档支持：除了PDF，还将支持更多文档类型。
• 长对话及总结的内存功能。
• 更多功能特性。

讨论与贡献

如果你有任何建议或反馈，可以在项目的Discussions部分开启新的话题讨论。也可以通过LinkedIn或Twitter直接联系项目维护者。

通过这个项目，用户可以按照指南构建定制化的问答系统，结合自己的数据和大型语言模型，满足各种复杂的问题解答需求。