Langtrace 项目介绍
Langtrace 是一款开源的可观测性软件,专为支持大规模语言模型(LLM)应用程序而设计。它能够捕获、调试和分析从所有使用 LLM API、向量数据库以及基于 LLM 框架的应用程序中获得的追踪和指标。
开源与开放遥测支持
Langtrace 的生成追踪与 开源遥测标准(OTEL)相一致。项目正在开发语义约定,并在积极鼓励社区参与和反馈。有关当前定义可以通过此存储库查看。
SDK 仓库
Langtrace 提供以下开发工具包(SDK),以便开发人员可以轻松集成:
如何开始
Langtrace 云平台
- 访问官网进行注册。
- 注册后创建一个新项目,项目是用于存储应用程序生成的追踪和指标的容器。
- 在项目内生成 API 密钥。
- 在应用程序中安装 Langtrace SDK,并用步骤 3 生成的 API 密钥初始化它。
适用于 TypeScript/JavaScript 的应用程序
npm i @langtrase/typescript-sdk
import * as Langtrace from '@langtrase/typescript-sdk'
Langtrace.init({ api_key: <your_api_key> })
适用于 Python 的应用程序
pip install langtrace-python-sdk
from langtrace_python_sdk import langtrace
langtrace.init(api_key=<your_api_key>)
自托管 Langtrace
想要本地运行 Langtrace,需要运行以下三项服务:
- Next.js 应用
- Postgres 数据库
- Clickhouse 数据库
需要 Docker 和 Docker Compose。最新文档和各种部署选项可以在这里查阅。
docker compose up
要删除容器和卷:
docker compose down -v
遥测
默认情况下,Langtrace 从自托管实例收集基本的、非敏感的使用数据,这些数据会发送到中央服务器(通过 PostHog)。数据包括项目名称和类型以及团队名称,旨在帮助改进平台。若您希望禁用遥测,可以在配置中设置 TELEMETRY_ENABLED=false
。
支持的集成
Langtrace 可以自动捕获多个供应商的追踪信息,包括但不限于 OpenAI、Anthropic、Azure OpenAI 和 Pinecone。
系统架构
Langtrace 使用 NextJS 构建前端和 API,PostgresDB 作为元数据存储,Clickhouse DB 用于存储跨度、指标、日志和追踪。
功能请求与问题
如需请求功能或报告问题,可以通过以下链接进行操作:
贡献与安全性
Langtrace 欢迎开发者的贡献,并推荐有意参与的开发者加入其 Slack 工作区。想要报告安全漏洞可通过 security@scale3labs.com 联系。
Langtrace 项目在软件许可方面遵循 AGPL 3.0 和 Apache 2.0 许可证,更多详情访问许可证信息。
常见问题
1. 是否可以自托管 Langtrace? 可以,通过按照我们的自托管设置指南操作即可。
2. Langtrace 云平台的定价如何? 目前免费,我们重视用户反馈以持续改进项目,并会在决定收费时告知用户。
3. Langtrace 的技术栈是什么? Langtrace 使用 NextJS、PostgresDB 和 Clickhouse 组合,构建了一个强大的可观测性工具。