LLMStack 是一个无需代码的平台,用于构建生成式 AI 代理、工作流和聊天机器人,并将它们连接到您的数据和业务流程。
概述
通过链接多个 LLM(大语言模型),构建满足您独特需求的量身定制生成式 AI 代理、应用程序和聊天机器人。使用 LLMStack 的无代码构建器,无需任何编码经验即可无缝集成您自己的数据、内部工具和基于 GPT 的模型。可以从 Slack 或 Discord 触发您的 AI 链。可以部署到云端或本地。
在这里查看完整演示视频 here
开始
检查我们的云产品Promptly 或按照以下说明在自己的基础设施上部署 LLMStack.
LLMStack 部署带有默认的管理员帐户,凭证为 admin
和 promptly
。登录后,请务必从管理员面板更改密码。
安装
先决条件
LLMStack 依赖于后台 docker 容器来运行作业。如果需要使用作业,请确保您的计算机上已安装 Docker。您可以按照这里 的说明安装 Docker。
使用 pip
安装 LLMStack
pip install llmstack
如果您使用的是 Windows,请使用 WSL2(Windows Subsystem for Linux)安装 LLMStack。您可以按照这里 的说明安装 WSL2。在 WSL2 终端中,您可以使用上述命令安装 LLMStack。
使用以下命令启动 LLMStack:
llmstack
以上命令将安装并启动 LLMStack。首次运行时会在您的主目录中创建 .llmstack
并放置数据库和配置文件。一旦 LLMStack 启动并运行,它应该会自动打开您的浏览器并指向 localhost:3000。
您可以从设置页面添加您自己的 OpenAI、Cohere、Stability 等提供商的密钥。如果您想为所有 LLMStack 实例的用户提供默认密钥,可以将它们添加到
~/.llmstack/config
文件中。
功能
🤖 代理: 构建生成式 AI 代理,如 AI 客户成功经理、研究分析师、RPA 自动化等无需编写任何代码。将代理连接到您的内部或外部工具,通过代理进行网页搜索或浏览互联网。
🔗 链接多个模型: LLMStack 允许您链接多个 LLM 以构建复杂的生成式 AI 应用程序。
📊 在您的数据上使用生成式 AI: 将您的数据导入账户并在 AI 链中使用它。LLMStack 允许从各种来源(CSV、TXT、PDF、DOCX、PPTX 等)导入各种类型的数据(gdrive、notion、网站、直接上传等)。平台会负责预处理和矢量化您的数据,并将其存储在提供的矢量数据库中。
🛠️ 无代码构建器: LLMStack 配备一个无代码构建器,可以让您在没有任何编程经验的情况下构建 AI 链。您可以链接多个 LLM 并将其连接到您的数据和业务流程。
☁️ 部署到云端或本地: LLMStack 可以部署到云端或本地。您可以将其部署到自己的基础设施或使用我们的云产品 Promptly。
🚀 API 访问: 使用 LLMStack 构建的应用程序或聊天机器人可以通过 HTTP API 进行访问。您还可以从 Slack 或 Discord 触发您的 AI 链。
🏢 多租户: LLMStack 是多租户的。您可以创建多个组织并添加用户。用户只能访问属于其组织的数据和 AI 链。
您可以使用 LLMStack 构建什么?
使用 LLMStack,您可以构建各种生成式 AI 应用程序、聊天机器人和代理。以下是一些示例:
👩🏻💼 AI 客户成功经理: 您可以构建 AI 客户成功经理,为您的销售团队生成个性化的电子邮件、LinkedIn 信息、冷呼叫等。
👩🏻💻 研究分析师: 您可以构建 AI 研究分析师,为您的投资团队生成研究报告、投资论点等。
🤖 RPA 自动化: 您可以构建 RPA 自动化,通过生成电子邮件、填表等来自动化您的业务流程。
📝 文本生成: 您可以构建应用程序,通过使用文本生成模型(可选地连接您的数据),生成产品描述、博客文章、新闻文章、推文、电子邮件、聊天消息等。请查看这个 营销内容生成器 作为示例。
🤖 聊天机器人: 您可以构建基于您的数据、由 ChatGPT 提供支持的训练有素的聊天机器人,如 Promptly Help,它嵌入在 Promptly 网站上。
🎨 多媒体生成: 构建复杂的应用程序,从提示生成文本、图像、视频、音频等。这个 故事生成器 是一个示例。
🗣️ 会话式 AI: 构建能够与用户进行对话的会话式 AI 系统。请查看这个 Harry Potter 人物聊天机器人。
🔍 搜索增强: 构建搜索增强系统,通过 API 使用附加信息增强搜索结果。Sharebird 使用 LLMStack 增强搜索结果,将其内容中的 AI 生成的答案添加到搜索结果中,类似于 Bing 的聊天机器人。
💬 Discord 和 Slack 机器人: 使用 LLMStack 构建的应用程序可以从 Slack 或 Discord 触发。您可以通过 LLMStack 的无代码应用程序编辑器轻松地将您的 AI 链连接到 Slack 或 Discord。请查看我们的 Discord 服务器 与类似的机器人互动。
管理
使用管理员帐户登录 http://localhost:3000/admin。您可以在管理员面板中添加用户并将其分配到组织。
云产品
查看我们的云产品 Promptly。您可以注册一个免费账户并开始构建您自己的生成式 AI 应用程序。
文档
查看我们的文档 docs.trypromptly.com/llmstack,以了解有关 LLMStack 的更多信息。
开发
cd client
npm install
npm run build
cd ..
pip install poetry
poetry install
poetry shell
llmstack
如果您之前已经构建过客户端,可以跳过运行
npm install
和npm run build
在前端开发中,您可以使用 REACT_APP_API_SERVER=localhost:3000 npm start
在 client 目录中启动开发服务器。您也可以使用 npm run build
构建前端并从后端服务器提供服务。
要更新文档,请对 web/docs
目录进行更改,并在 web 目录中运行 npm run build
以构建文档。您可以在 web 目录中使用 npm start
在本地提供文档服务。
贡献
我们欢迎对 LLMStack 的贡献。请查看我们的贡献指南,了解如何为 LLMStack 贡献力量。