#观察性

lunary

Lunary 提供开源的可观测性、提示管理和评估功能，帮助LLM开发者优化应用性能。它支持成本分析、日志监控、提示模板创建和微调数据集，方便快速集成和自托管。兼容JavaScript和Python模块，适用于多种模型，并提供托管版本和本地部署指南，确保数据安全和优质支持。

helicone

Helicone是一个开源的LLM开发平台，支持OpenAI、Anthropic等多种LLM集成。通过一行代码即可实现请求日志、会话追踪和指标分析。该平台还提供prompt管理、评估和微调等功能，以及缓存和自定义速率限制等网关特性。Helicone支持云端部署和自托管，适用于各种规模的AI应用开发。

openllmetry-js

OpenLLMetry-JS是一个开源项目，基于OpenTelemetry构建，为LLM应用提供全面观测能力。它支持多种LLM服务和向量数据库的标准instrumentation，并提供简易SDK快速集成。该框架可与Datadog、Honeycomb等主流可观测性平台无缝对接，使开发者能够全面监控和分析LLM应用性能。项目由Traceloop维护，遵循Apache 2.0许可。