#观察性
相关项目
lunary
Lunary 提供开源的可观测性、提示管理和评估功能,帮助LLM开发者优化应用性能。它支持成本分析、日志监控、提示模板创建和微调数据集,方便快速集成和自托管。兼容JavaScript和Python模块,适用于多种模型,并提供托管版本和本地部署指南,确保数据安全和优质支持。
helicone
Helicone是一个开源的LLM开发平台,支持OpenAI、Anthropic等多种LLM集成。通过一行代码即可实现请求日志、会话追踪和指标分析。该平台还提供prompt管理、评估和微调等功能,以及缓存和自定义速率限制等网关特性。Helicone支持云端部署和自托管,适用于各种规模的AI应用开发。