local-rag-example项目介绍
local-rag-example是一个开源项目,旨在帮助开发者构建一个可以本地运行的ChatPDF应用。该项目使用了Langchain、Ollama和Streamlit等技术,实现了一个简单但功能完整的RAG(检索增强生成)系统。
主要特点:
- 完全本地运行,无需担心数据隐私和token费用
- 使用Ollama作为LLM服务器,可在笔记本电脑上运行
- 使用Langchain构建RAG管道
- 使用Streamlit构建简洁的用户界面
- 支持上传PDF文档并进行问答
学习资源
-
GitHub仓库: https://github.com/vndee/local-rag-example
这里可以找到完整的源代码和使用说明。
-
详细教程: https://blog.duy-huynh.com/build-your-own-rag-and-run-them-locally/
作者写的详细教程,介绍了构建过程和技术细节。
-
RAG相关文章:
-
相关技术:
-
LLM模型: 项目使用了Mistral-7B模型,你也可以尝试其他可用的LLM模型。
快速开始
-
安装依赖:
pip install langchain streamlit streamlit_chat chromadb pypdf fastembed
-
设置Ollama: 访问ollama.ai下载并安装Ollama。
-
拉取Mistral模型:
ollama pull mistral
-
运行应用:
streamlit run app.py
通过学习和使用local-rag-example项目,你可以快速构建一个本地运行的ChatPDF应用,深入理解RAG系统的工作原理。项目代码简洁清晰,非常适合学习和二次开发。