English | 中文翻译
💸🤑 宣布我们的赏金计划: 帮助 Julep 社区修复漏洞和发布功能并获得报酬。更多详情 点击这里。
通过会话历史记录支持任何 LLM、智能化工作流、集成等,开始你的项目。
探索文档 »
报告问题
·
需求功能
·
加入我们的 Discord
·
X
·
LinkedIn
为什么选择 Julep?
我们已经构建了许多 AI 应用程序,并且了解评估数百种工具、技术和模型并使它们协同工作是多么困难。
存在的问题
- 使用具有记忆、知识和工具的 LLM 应用程序的门槛太高。
- 多代理框架中的智能行为难以控制。
功能
- 设计的有状态性:默认管理会话历史记录。使用简单的标志
remember
和recall
调整是否保存或检索会话历史记录。 - 支持用户和代理:允许创建不同的用户 <-> 代理互动,例如
一个代理 <-> 多个用户
;多个代理 <-> 一个用户
等。了解更多,. - 内置 RAG:根据你的使用场景,添加、删除和更新文档,以向 LLM 提供用户或代理的上下文。阅读更多内容。
- 内置 90+ 工具:使用 Composio 本机将你的 AI 应用程序连接到 90 多个第三方应用程序。
toolset.handle_tool_calls(julep_client, session.id, response)
将为你调用和处理你的工具!查看示例 - 本地优先:Julep 准备好使用 Docker Compose 部署到生产环境。即将支持 k8s!
- 即时切换 LLMs:更新 Agent 在 OpenAI、Anthropic 或 Ollama 之间切换 LLMs,同时保持状态。
- *分配任务给代理:定义智能化工作流,以便与一个或多个代理异步执行,而不必担心超时或重复幻觉现象。正在进行中
(*) 即将推出!
指南
您可以在指南文档中查看 Julep 的不同功能实际运作情况。
快速入门
选项 1:使用 Julep 云平台
我们的托管平台处于 Beta 阶段!
要获取访问权限:
- 访问 https://platform.julep.ai
- 生成并添加你的
JULEP_API_KEY
在.env
文件中
选项 2:本地安装和运行 Julep
前往 自托管指南 查看如何在本地运行 Julep!
安装
pip install julep
设置 client
from julep import Client
from pprint import pprint
import textwrap
import os
base_url = os.environ.get("JULEP_API_URL")
api_key = os.environ.get("JULEP_API_KEY")
client = Client(api_key=api_key, base_url=base_url)
创建一个代理
代理是分配了模型、温度和工具的对象。
agent = client.agents.create(
name="Jessica"
model="gpt-4",
tools=[] # 这里定义工具
)
创建一个用户
用户是代表应用程序用户的对象。
每个用户都会形成并保存记忆,多个用户可以与一个代理进行对话。
user = client.users.create(
name="Anon",
about="每天花 8 小时在笔记本电脑上的普通技术宅男/女孩",
)
创建一个会话
“用户”和“代理”在“会话”中进行通信。系统提示放在这里。 会话历史记录和摘要保存在“会话”中,保存了会话历史记录。
会话范式允许多个用户与一个代理互动,并允许分离会话历史记录和记忆。
situation_prompt = """你是 Jessica。你是一个高傲的加州青少年。
你基本上对所有事情都抱怨。你住在洛杉矶的贝莱尔,当你必须的时候去 Curtis 高中上学。
"""
session = client.sessions.create(
user_id=user.id, agent_id=agent.id, situation=situation_prompt
)
开始有状态的对话
session.chat
控制“代理”和“用户”之间的通信。
它有两个重要参数;
recall
:检索以前的对话和记忆。remember
:将当前对话轮保存到记忆库中。
为了保持会话有状态,两个参数都需要设置为True
user_msg = "嘿。你怎么看待星巴克"
response = client.sessions.chat(
session_id=session.id,
messages=[
{
"role": "user",
"content": user_msg,
"name": "Anon",
}
],
recall=True,
remember=True,
)
print("\n".join(textwrap.wrap(response.response[0][0].content, width=100)))
API 和 SDKs
要直接使用 API 或查看请求和响应格式、身份验证、可用端点等,请参考 API 文档
您还可以参考 Postman Collection 进行参考。
Python SDK
要安装 Python SDK,请运行:
pip install julep
有关使用 Python SDK 的更多信息,请参考 Python SDK 文档。
TypeScript SDK
使用 npm
安装 TypeScript SDK,请运行:
npm install @julep/sdk
有关使用 TypeScript SDK 的更多信息,请参考 TypeScript SDK 文档。
部署
查看 自托管指南 了解如何自己托管平台。
如果你想将 Julep 部署到生产环境,让我们预约一个电话!
我们将帮助你定制平台,并帮你设置:
- 多租户
- 反向代理以及身份验证和授权
- 自托管 LLMs
- 以及更多
贡献
我们欢迎社区贡献来帮助改进和扩展 Julep AI 平台。参见 CONTRIBUTING.md
许可证
Julep AI 是在 Apache 2.0 许可证下发布的。通过使用、贡献或分发 Julep AI 平台,您同意该许可证的条款和条件。
联系和支持
如果你有任何问题,需要帮助或想联系 Julep AI 团队,请使用以下渠道:
- Discord:加入我们的社区论坛讨论想法,提问,以及从其他 Julep AI 用户和开发团队获得帮助。
- GitHub 问题:对于技术问题、错误报告和功能请求,请在 Julep AI GitHub 仓库中提出问题。
- 电子邮件支持:如果你需要直接向我们的支持团队寻求帮助,请发送电子邮件至 hey@julep.ai,我们会尽快回复。
- 关注 X 和 LinkedIn 获取最新更新
- 预约电话:我们想知道你在构建什么,以及如何调整和优化 Julep 以帮助你构建下一个 AI 应用。