项目介绍
Lunary 是一个专为LLM(大型语言模型)聊天机器人开发人员设计的工具包,旨在帮助开发人员进行开发和改进这些智能机器人。Lunary 提供了一系列便捷的功能,使得开发聊天机器人更加高效和高质量。
功能特点
Lunary 提供了许多实用的功能,包括:
- 会话和反馈跟踪:让开发者掌握聊天机器人的会话记录和用户反馈。
- 数据分析:涵盖成本、令牌使用情况和延迟等多方面的分析。
- 调试功能:通过日志记录、追踪和用户跟踪来帮助开发者检测并解决问题。
- 提示目录:支持版本控制和团队协作,方便管理和更新提示。
- 创建微调数据集:帮助开发者为机器学习模型提供精细的数据集用于训练。
- 自动主题分类:能够自动进行会话主题的分类。
此外,Lunary 具有以下特点:
- 兼容性强:不仅支持 OpenAI 的模型,还兼容其他任何模型。
- 易于集成:只需两分钟即可完成集成。
- 支持自托管:开发者可以在自己的服务器上运行 Lunary。
集成模块
Lunary 提供支持多种编程语言的模块,包括:
- JavaScript 模块
- Python 模块
它还原生支持一些常用的工具和服务,如:
- LangChain(JavaScript 和 Python)
- OpenAI 模块
- LiteLLM
- Flowise
此外,开发者也可以通过手动发送事件的方式将 Lunary 与其他大型语言模型集成。
在线支持和托管版本
Lunary 提供托管版本,允许用户每月免费处理多达10,000个请求。使用托管版本的好处包括:
- 无需担心开发运维或者更新管理。
- 可以享受优先的1对1支持服务。
- 数据安全地存储在欧洲。
本地运行指南
想要在本地运行 Lunary?按照以下步骤操作:
- 克隆代码库。
- 设置 PostgreSQL 实例(版本15及以上)。
- 配置后端和前端的环境变量文件。
- 执行
npm install
安装依赖。 - 运行
npm run migrate:db
进行数据库迁移。 - 运行
npm run dev
启动开发服务器。
启动后,可以通过 http://localhost:8080
打开仪表盘。若使用 JS 或 Python SDK,需要将环境变量 LUNARY_API_URL
设置为 http://localhost:3333
,并可以通过设置 LUNARY_VERBOSE=True
来查看 SDK 发送的所有事件。
支持与反馈
如果需要帮助或有任何问题,欢迎访问官网进行在线沟通,或通过邮件联系团队(hello@lunary.ai)。Lunary 团队随时准备提供支持。
Lunary 项目采用 Apache 2.0 开源许可证,欢迎开发者自由使用和修改。