Akcio 项目介绍
概述
Akcio 是一个用于构建增强型智能聊天机器人的项目,其背后技术包括 ChatGPT、向量数据库,以及代码形式的提示(称之为 CVP 栈)。这个新技术栈的目的是解决传统 ChatGPT 在知识库限制下容易出现错误回答的问题。通过 Akcio,用户可以创建一个知识增强型的 ChatBot,增加从自定义知识库中获取信息的能力,以提供更加准确和相关的回答。
Akcio 支持两种主要人工智能平台:Towhee 和 LangChain,并与多种大型语言模型(LLM)及数据库整合兼容,例如 OpenAI、Ernie、Milvus 和 Zilliz 等。用户可以根据需求选择不同的平台和模型以最大化其系统的效能。
功能亮点
-
语义搜索:在用户提出问题后,系统会首先从数据库中检索相关信息,然后将用户需求和检索到的信息一同提供给 LLM,以生成更加合适的应答。
-
集成方案:支持多种 LLM 和数据库的组合,用户可以基于不同场景需求选择最优配置。例如,可以使用 OpenAI 提供的 LLM 服务搭配来自 Milvus 的向量存储服务。
-
定制化选项:通过 Towhee 提供的预定义流水线,用户可以轻松搭建系统,并根据需要进行配置或创建自定义流水线。而选择 LangChain 平台则可以利用 Agent 功能,使 LLM 在特定工具的帮助下执行更加复杂的任务。
部署指南
-
下载和安装:从 GitHub 克隆 Akcio 项目,并安装所需的依赖库。
$ git clone https://github.com/zilliztech/akcio.git $ cd akcio $ pip install -r requirements.txt
-
配置模块:通过修改
config.py
文件配置系统,也可以通过环境变量设置不同的数据库和模型连接参数。 -
启动服务:运行主脚本启动 FastAPI 服务,默认运行在
localhost:8900
。$ python main.py --towhee # 或者选择 LangChain
-
使用服务:通过浏览器访问
http://localhost:8900/docs
查看和使用提供的 API。
数据加载
Akcio 提供两种数据加载方式:
- 离线加载:推荐使用,允许在离线状态下分步骤加载数据,支持高效插入大量文档。
- 在线加载:适用于小规模数据,通过 POST 请求加载单个文件或 URL 数据,但不适合大规模数据使用。
使用指南
完整的使用指南和示例代码可以在 Akcio 文档 中找到。无论是项目的部署、数据的加载或是 API 的使用,文档中都提供了详细的说明和操作步骤,确保用户能够快速上手并应用 Akcio 项目创建自己的智能聊天系统。
Akcio 致力于为用户提供更智能、更高效的聊天机器人解决方案,使得基于 LLM 的应用能够具备跨越语言障碍和领域限制的能力。通过整合先进的技术栈,Akcio 赋予了 ChatBot 更多的智能和实用性。