Pezzo是一个云原生的开源LLMOps平台，能够无缝监控和管理AI操作，解决问题，节省多达90%的成本和延迟。用户可在一个平台上协作和管理提示，并快速应用AI变更。Pezzo支持Node.js、Python和LangChain，并提供详细文档和教程，帮助用户快速上手。

dify-on-wechat是一个开源项目,基于chatgpt-on-wechat开发,为Dify提供微信生态接入能力。该项目支持Dify智能助手模型、工具调用、知识库和工作流,可快速将Dify接入个人微信、企业微信应用、公众号等多个微信渠道。目前已测试多种微信通道,并提供详细接入教程,方便开发者实现Dify与微信的智能对话交互。

LLM Twin Course是一个免费课程，旨在指导学员如何设计、训练并部署生产级LLM副本。参与者将了解基于LLMOps最佳实践来构建适用于实际应用的LLM系统，涵盖从数据采集、特征处理到训练和推理的完整开发流程，并熟悉实验跟踪、模型注册和版本控制等核心MLOps技术。该课程适合有基础Python、机器学习及云服务经验的MLE、DE、DS或SWE专业人士。

Vext是一个专注于简化LLMOps的智能平台。它能够快速构建和部署LLM流水线，支持用户利用自身数据创建定制AI应用，提供精确的业务洞察和自动化解决方案。平台支持多种数据格式输入，兼容主流LLM模型，提供代码和无代码两种操作模式。Vext还具备强大的API和集成能力，可与其他工具和服务无缝对接，为LLM应用开发提供全面解决方案。

LangWatch提供实时跟踪、可视化和分析LLM交互的工具。其主要功能包括实时遥测、详细调试、质量测评、DSPy可视化、用户分析和保护措施。支持多种编程语言和框架的集成，通过简单步骤快速启动，并提供详尽的文档和自托管指南，适合自定义和扩展项目。

WhyLabs平台专注于AI可观察性、大语言模型安全和模型监控。该平台覆盖大语言模型、生成式AI和预测性AI等多种应用场景，提供实时防护机制以阻止有害交互、数据泄露和幻觉问题。通过无缝集成、严格的隐私保护和可定制仪表板，WhyLabs能够帮助企业全方位保障AI应用的安全性、可靠性和性能表现，同时加速AI问题的诊断和解决。

Awesome-LLMOps列出了大语言模型运维(LLMOps)领域的优秀工具和资源。涵盖模型训练、部署、优化、服务、安全、搜索和代码AI等方面。该项目为开发者提供了构建和管理大规模语言模型应用的重要参考。

Starwhale是一个开源的MLOps/LLMOps平台，致力于优化机器学习运维流程。平台提供模型、运行时和数据集的统一管理，支持模型评估、在线演示和大语言模型微调等功能。Starwhale支持独立版、服务器版和云端版部署，适应不同应用场景。其开放架构允许开发者自定义MLOps功能，为AI团队打造高效、标准化的开发环境。