AgentKit简介
AgentKit是由BCG X开发的一款基于LangChain的启动套件,旨在帮助开发者快速构建高质量的AI代理应用。它为开发者提供了一套完整的工具和框架,使其能够:
- 通过漂亮的UI快速实验受约束的代理架构
- 构建可扩展到生产级MVP的全栈聊天式代理应用
AgentKit的主要优势包括:
- 🚀 快速构建高质量代理应用: 利用基于FastAPI/Nextjs的模块化、易配置技术栈和实用的GenAI工具库,在几小时内构建出强大的演示应用。
- 💻 为代理设计的灵活、响应式UI/UX: 基于React/Nextjs的聊天式UI易于配置,具有流式传输、表格/可视化/代码渲染、代理操作状态等功能。
- 🛡️ 注重可靠性: 易于配置的路由架构可控制代理可能采取的路径,提高可靠性,适合实际使用场景。
- 📈 可扩展设置: 具备队列管理、身份验证、缓存、监控等功能,可扩展至MVP。
技术栈
AgentKit基于最新技术,以实现最佳性能、安全性和开发体验:
- 💫 Nextjs 14 with tailwind and daisyui
- 🔥 Python 3.10 with fastapi, sqlmodel and pydantic 2.x
- 🦜 Langchain and Langsmith端到端配置
- 🗝 身份验证: NextAuth集成FastAPI
- 🥬 Celery和redis用于长时间运行的任务、缓存等
- 💾 带pgvector扩展的本地Postgres
- ⬆️ Docker-compose用于简单部署和开发体验
- 🖍 预配置的代码检查、测试和预提交钩子
需要注意的是,这是一个启动套件 - 对于生产部署,建议添加企业级安全功能。特别是在使用LLM时,要注意已知风险,如提示注入。
快速开始
要快速设置AgentKit,请按以下步骤操作,后端和前端应用都在Docker容器中运行:
先决条件
安装步骤
-
克隆包含后端和前端应用源代码的存储库。
-
复制
frontend/.env.example文件并重命名为.env。同样,复制根目录中的.env.example文件并重命名为.env。- 将OPENAI_API_KEY和OPENAI_ORGANIZATION更改为您自己的(注意:OPENAI_ORGANIZATION应为您的OpenAI 'Organization ID')
-
在终端中,导航到克隆存储库的根目录。使用以下命令构建并启动Docker容器:
docker-compose -f docker-compose.yml up -d
等待容器构建和启动,这可能需要几分钟,具体取决于您的系统。容器启动并运行后,您可以在浏览器中访问 http://localhost 来使用应用。
Chinook音乐数据库演示
- 如果Docker容器正在运行,请运行
docker-compose down --volumes - 按照上述安装说明进行操作,但将
docker-compose.yml替换为docker-compose-demo.yml来运行应用 - 尝试输入提示"数据库中有多少艺术家和歌曲?"来体验AgentKit的功能!
设置您自己的应用
工作原理
可靠性
AgentKit试图通过将代理可能采取的潜在路径限制为预先配置的路径集(称为行动计划)来解决ReAct代理等代理的可靠性问题。由于在许多用例中,代理可能采取的潜在路径是已知的,我们可以利用人类的领域专业知识来引导代理朝正确的方向发展,减少其进入意外方向或陷入死胡同的可能性。这是通过将元代理与行动计划相结合来实现的:一组线性和并行执行的工具,类似于链。元代理接收用户提示并输出最适合生成答案的行动计划。注意:可以实现多个元代理,生成可能路径的树。
用户体验
为了优化用户体验,可以向用户显示行动计划中每个步骤的中间输出。例如,考虑一个由2个工具集组成的行动计划:[[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]]。在第一个操作步骤中,并行检索SQL数据库和嵌入PDF的向量数据库中的信息。一旦第一个操作步骤完成,检索到的数据和最相关的PDF就会流式传输到UI。在第二个操作步骤中,步骤1的输出被传递给一个生成文本摘要的工具和一个从数据创建JSX可视化的工具,这些内容被流式传输到UI以创建最终答案。
附加可选功能
AgentKit还提供了一些额外的可选功能,以增强应用的功能和用户体验:
-
反馈集成: 从用户收集对生成答案的反馈
-
用户设置: 允许用户在应用中指定默认设置,这些设置可用于为用户自定义提示
-
用户认证: 在您的应用中启用NextAuth,以通过Github或电子邮件/密码对用户进行身份验证
有关这些可选功能的更详细信息,请参阅可选功能文档。
文档
您可以在这里找到托管的文档。主要内容包括:
支持与维护
AgentKit项目源于多个模板的组合。一个重要的灵感来源是fastapi-alembic-sqlmodel-async,它为FastAPI设置提供了基础。
非常感谢所有贡献者的努力,包括@kaikun213、@drivian、@ielmansouri等多位开发者。您可以在项目的GitHub页面上找到完整的贡献者列表。
如果您有兴趣为AgentKit做出贡献,请阅读CONTRIBUTING.md以了解更多详情。我们欢迎PR ❤️
许可证
AgentKit项目采用MIT许可证。
总之,AgentKit为开发者提供了一个强大、灵活且易于使用的工具包,用于构建高质量的AI代理应用。无论您是想快速构建演示应用还是开发可扩展到生产级别的MVP,AgentKit都能为您提供所需的工具和框架。通过其模块化设计、注重可靠性的架构和丰富的功能集,AgentKit有望成为AI代理应用开发领域的重要工具。
