Delphic - 使用LlamaIndex构建和部署大型语言模型（LLM）代理的简单框架

Delphic 项目介绍

什么是 Delphic？

Delphic 是一个旨在使用 LlamaIndex 构建和部署大型语言模型（LLM）代理的简单框架，这些代理可以用于分析和处理文档中的文本数据。这一框架为开发者提供了一个利用大型语言模型能力的基础，能够高效处理文本，同时也便于自定义和扩展。

技术背景

Delphic 的初始版本仅基于 OpenAI 的 API。虽然目前仅支持 OpenAI，但未来计划支持其他大型语言模型，无论是自托管的还是由第三方 API 提供支持的。尽管如此，依然兼容 Langchain，从而能够轻松转换至其他 LLM。不过，目前用户在使用此工具时，仍需通过 OpenAI 处理文本。如果 OpenAI 的服务条款对用户而言存在潜在问题，则需要自行解决。

如何本地启动

克隆仓库：首先需要从Git仓库中克隆代码。
```
git clone
cd delphic
```

复制环境配置文件：将样本环境文件复制到本地目录。

mkdir -p ./.envs/.local/
cp -a ./docs/sample_envs/local/.frontend ./frontend
cp -a ./docs/sample_envs/local/.django ./.envs/.local
cp -a ./docs/sample_envs/local/.postgres ./.envs/.local

更新配置：编辑 .django 配置文件并添加您的 OpenAI API 密钥。您可能还需要修改 .postgres 以为数据库用户设置一个唯一的密码。
构建 Docker 镜像：使用 Docker Compose 构建应用所需的镜像。
```
sudo docker-compose --profile fullstack -f local.yml build
```
启动应用：运行以下命令启动应用。
```
sudo docker-compose --profile fullstack -f local.yml up
```
访问 localhost:3000 查看前端界面。

用户设置

为了使用应用程序，用户需要登录。可以创建超级用户（有完整权限）或普通用户。目前，任何登录用户都会有完整权限，未来计划实现基于角色的访问控制。

创建超级用户：

sudo docker-compose -f local.yml run django python manage.py createsuperuser

设置额外用户（如需要）：
- 启动 Delphic 应用并在浏览器中访问 http://localhost:8000/admin。
- 使用超级用户登录后，可以在“Users”部分添加新用户，并配置权限。

应用使用

通过 Delphic，可创建和查询文本 "集合"。请注意，使用 OpenAI 进行查询会消耗 API 积分，并可能产生费用。用户应根据自己的使用场景自行承担相应条款。

开发环境设置

后端设置

为开发 Delphic 或自定义版本，需配置开发环境。后端需要一个工作良好的 Python 环境来运行代码格式检查，推荐使用 Python 3.10 或更高版本。

安装依赖并设置 Pre-Commit：

pip install -r ./requirements/local.txt
pre-commit install

运行测试：

sudo docker-compose -f local.yml run django python manage.py test

前端设置

前端使用 Node v18.15.0。假设使用 nvm 来管理 Node 版本。

启动前端开发服务器：
```
cd frontend
nvm use
npm install yarn
yarn install
yarn start
```
前端开发服务器将在 http://localhost:3000 运行，同时需要启动后端才能正常工作。

Delphic 提供了一个创新的平台，利用现代大型语言模型实现文本分析和处理，适合希望在此领域快速搭建应用的开发者和团队。