#OpenTelemetry

OpenLLMetry学习资料汇总 - 基于OpenTelemetry的开源LLM应用可观测性方案

2 个月前
Cover of OpenLLMetry学习资料汇总 - 基于OpenTelemetry的开源LLM应用可观测性方案

OpenInference: 面向AI应用的可观测性解决方案

3 个月前
Cover of OpenInference: 面向AI应用的可观测性解决方案

OpenLIT:全面的生成式AI观测和评估工具

3 个月前
Cover of OpenLIT:全面的生成式AI观测和评估工具

OpenLLMetry: 开源LLM应用可观测性解决方案

3 个月前
Cover of OpenLLMetry: 开源LLM应用可观测性解决方案
相关项目
Project Cover

openllmetry

OpenLLMetry是一个基于OpenTelemetry的开源观测工具,支持OpenAI、Anthropic等LLM提供商及Chroma、Pinecone等向量数据库。标准化扩展和Traceloop SDK使集成和监测应用性能变得简单。兼容Datadog、Honeycomb等多种观测工具,实现全面的应用可观测性,优化系统性能。

Project Cover

openlit

OpenLIT 是一款 OpenTelemetry 原生的工具,帮助开发者在生产环境中监控 LLM 应用的性能。它能够自动收集 LLM 的输入输出元数据,监控自托管 LLM 的 GPU 性能。OpenLIT 可以无缝集成 OpenAI 和 HuggingFace 等流行 LLM 提供商,只需一行代码即可实现性能监控。此外,还能跟踪自定义和微调模型的成本,优化资源使用并提高系统可靠性。

Project Cover

opentelemetry-go

OpenTelemetry-Go是OpenTelemetry的Go语言实现,提供API用于测量软件性能和行为,并将数据发送至可观测性平台。该项目支持稳定的追踪和指标功能,以及测试阶段的日志功能。兼容多个操作系统和Go版本,OpenTelemetry-Go为应用程序提供全面的插桩和数据导出选项,有助于构建分布式系统监控方案。

Project Cover

opentelemetry-go-extra

opentelemetry-go-extra 是一个为 Go 应用程序提供 OpenTelemetry 工具集的开源项目。它支持多个流行的 Go 库和框架,如 database/sql、GORM 和 sqlx,为指标、分布式追踪和日志记录提供集成。这个项目简化了 Go 应用的可观测性实现,有助于性能监控和问题诊断。

Project Cover

opentelemetry-specification

OpenTelemetry Specification 定义了跨语言的可观测性标准,为应用程序和服务提供统一的遥测数据收集框架。该规范涵盖跟踪、指标和日志收集,支持多种编程语言实现。项目提供详细的指南和API定义,便于开发者集成可观测性功能。作为可观测性领域的新兴标准,OpenTelemetry 获得了广泛的社区支持和企业采用。

Project Cover

opentelemetry-rust

OpenTelemetry Rust是一个开源的可观测性框架,为Rust应用程序提供遥测数据收集和导出功能。它支持metrics、logs和traces的instrumentation,可与Prometheus、Jaeger等工具集成。该项目提供API和SDK,便于开发者监控和分析应用性能。目前处于积极开发阶段,大部分组件已达到Beta或Alpha状态。

Project Cover

alloy

Grafana Alloy是开源的OpenTelemetry收集器分发版,支持指标、日志、跟踪和配置文件。它具有可编程管道、多种遥测生态系统支持、Kubernetes原生集成、可共享管道和集群功能。Alloy提供集中式配置管理和内置UI,便于可观测性管道的调试和可视化。

Project Cover

HoneyHive

HoneyHive为GenAI应用开发团队提供全面的AI评估和可观测性解决方案。平台集成了AI应用追踪、评估、监控和提示管理等功能,支持多种AI模型和框架。开发团队可在统一的LLMOps环境中协作,进行应用性能测试、评估,监控和调试LLM生产故障,以及管理提示。HoneyHive旨在帮助团队更高效地构建可靠的AI产品。

Project Cover

opentelemetry-ebpf-profiler

opentelemetry-ebpf-profiler是一款Linux系统性能分析工具,采用eBPF技术实现全系统跨语言分析。它具有低系统开销、支持多种编程语言、无需调试信息即可分析原生代码等优势。该项目实现了OpenTelemetry实验性分析信号,提供从内核空间到高级语言的混合堆栈跟踪。无需修改目标进程或重启系统,即可进行高效的性能分析。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号