开源、积极维护的大语言模型Web应用 💬
从应用开始,而不是从框架开始,快速启动你的大语言模型项目。本仓库汇集了高质量、功能完善的Web应用,适用于聊天机器人、自然语言接口、助手和问答系统等用例。它从重要维度对这些用例的项目进行比较,帮助你为你的应用选择合适的起点。
为确保最高质量和可用性,项目必须符合以下标准才能被收录:
- 采用开源许可 💸
- 积极维护,即在过去一个月内更新或处于积极监控中 🚨
这些项目涵盖了广泛的复杂程度,从简单的API封装到具有多源RAG后端、对话日志记录和身份验证/用户管理的生产就绪系统。几乎能满足各种需求。
项目提交
贡献是这个列表的基石!如果你知道符合我们标准但未列出的项目,我们很乐意听到你的意见。如果列出的任何项目变得不再维护或改变了许可,也请通知我们。此外,如果你想比较某个目前未跟踪的项目细节,请为此提交一个问题。最后,如果你是已列出项目的维护者,想要更新或修改列表,请重新提交并附上所需的修改。
提交项目:
- 创建一个问题。
- 确保你的提交符合列出的标准并包含所有相关细节。
- 提交将在一天内被审核,项目列表将随之更新。
如果你想帮助维护这个项目,请通过电子邮件联系clharman。
目前正在寻求以下方面的提交:
- 轻量级聊天机器人
- 具有高级提示功能的项目
- 非聊天机器人接口(问答系统等)
- 支持图像的项目
- 不同语言的项目,如仅使用Python
项目表格
项目 | 演示 | 简要描述 | 对话上下文传递 | 对话历史 | 身份认证 | 模型支持 | 富文本支持 | 图片支持 | (RAG)搜索引擎 | (RAG)显示来源 | (RAG)数据摄取 | 快速部署 | 其他特性 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Hugging Face 聊天界面 | 🟢 链接 | 功能齐全的聊天界面 | 🟢 | 🟢 | 🟢 OpenID | Hugging Face 推理 API、本地、Amazon SageMaker | 🟢 | 🔴 | 🟢 谷歌搜索 | 🟢 | 🔴 | 🟢 Hugging Face Spaces | 主题配置 |
Weaviate Verba | 🟢 链接 | RAG 应用的聊天界面 | 🔴 | 🔴 | 🔴 | OpenAI | 🟢 | 🔴 | 🟢 Weaviate | 🟢 | 🟢 通过命令行界面 | 🟢 Docker | 语义缓存 |
Microsoft Azure 聊天 | 🔴 | 基于 Azure 的私有聊天租户,适用于数据和文件 | 🟢 | 🟢 | 🟢 NextAuth | OpenAI | 🟢 | 🔴 | 🟢 Azure 认知搜索 | 🔴 | 🟢 界面单文件上传 | 🟢 Azure | |
AWS GenAI LLM 聊天机器人 | 🔴 | 基于 AWS 的聊天机器人,具有 RAG 和可选择的 LLM | 🟢 | 🟢 | 🟢 Amazon Cognito | Bedrock、SageMaker、Hugging Face 推理端点、OpenAI、Anthropic、AI21、Cohere | 🔴 | 🔴 | 🟢 Postgres/Kendra/OpenSearch | 🟢 | 🟢 界面文件上传 | 🟢 AWS | 用户可选模型和搜索后端 |
PrivateGPT | 🔴 | RAG 应用的 API、管道和界面。支持私有模型。 | 🟢 | 🔴 | 🔴 | 本地、OpenAI、SageMaker | 🔴 | 🔴 | 🟢 Qdrant、Chroma | 🟢 | 🟢 界面文件上传 | 🔴 | |
Ollama Web 界面 | 🔴 | 功能齐全的 GPT 克隆 | 🟢 | 🟢 | 🟢 | 本地:任何 Ollama 支持的模型 | 🟢 | 🟢 | 🔴 | 🔴 | 🔴 | 🟢 Docker Compose | |
Azure GPT-RAG | 🔴 | 企业级 RAG 框架 | 🟢 | 🟢 | 🟢 Azure Active Directory | OpenAI | 🟢 | 🔴 | 🟢 Azure 认知搜索 | 🟢 | 🟢 数据源连接 | 🟢 Azure | Microsoft Teams 机器人集成、成本估算器 |
Danswer | 🔴 | 功能齐全的 RAG 系统,预建多种源系统的数据连接器 | 🟢 | 🟢 | 🟢 | OpenAI、本地 | 🟢 | 🔴 | 🟢 Vespa | 🟢 | 🟢 多种数据连接器选择 | 🟢 Docker Compose、Kubernetes | Slack 机器人 |
LLM 回答引擎 | 🔴 | Perplexity 风格的回答引擎,带网络搜索 | 🟢 | 🔴 | 🔴 | Mixtral、Ollama、OpenAI | 🔴 | 🔴 | 🟢 Brave、Serper | 🟢 | 🔴 网络搜索,非摄取 | 🔴 | |
Dify | 🔴 | 生成式 AI 应用开发平台 | 🟢 | 🟢 | 🟢 | 多种 | 🟢 | 🟢 | 🟢 多种 | 🟢 | 🟢 界面文件上传 | 🟢 AWS、Kubernetes | 代理、可观察性 |
Flowise | 🔴 | 拖放式LLM流程构建器 | 🟢 | 🟢 | 🟢 | 多种 | 🔴 | 🔴 | 🟢 多种 | 🟢 | 🟢 UI文件上传 | 🟢 AWS, Kubernetes | 图形界面/无代码LLM应用逻辑构建器 |
LibreChat | 🔴 | 全功能ChatGPT克隆 | 🟢 | 🟢 | 🟢 | 多种 | 🟢 | 🟢 | 🟢 多种 | 🔴 | 🟢 UI文件上传 | 🟢 Docker Compose | 支持助手功能 |
Open WebUI | 🔴 | 专注于本地托管模型的ChatGPT克隆 | 🟢 | 🟢 | 🟢 | Ollama, OpenAI | 🟢 | 🟢 | 🟢 多种 | 🔴 | 🟢 UI文件上传 | 🟢 Docker |