Open Assistant API简介
Open Assistant API是一个开源的自托管AI智能助手API框架,兼容官方OpenAI接口。它可以直接与官方OpenAI客户端库配合使用,用于构建LLM应用。
主要特点:
- 开源自托管,可本地部署
- 兼容OpenAI接口
- 支持One API集成更多商业和私有模型
- 集成R2R RAG引擎
- 支持自定义扩展LLM、RAG、函数调用和工具能力
- 可与OpenAI/LangChain SDK无缝集成
快速入门
- 克隆项目仓库:
git clone https://github.com/MLT-OSS/open-assistant-api.git
-
配置docker-compose.yml文件,填写OpenAI API Key等信息
-
运行docker-compose:
docker-compose up -d
- 访问API:
- API基础URL: http://127.0.0.1:8086/api/v1
- 接口文档: http://127.0.0.1:8086/docs
使用示例
使用官方OpenAI Python库的示例代码:
import openai
client = openai.OpenAI(
base_url="http://127.0.0.1:8086/api/v1",
api_key="xxx"
)
assistant = client.beta.assistants.create(
name="demo",
instructions="You are a helpful assistant.",
model="gpt-4-1106-preview"
)
更多使用示例请参考examples目录。
学习资源
社区支持
Open Assistant API为开发者提供了一个灵活强大的AI助手开发框架,欢迎探索使用并为项目贡献力量!
