#LLM应用
pg_vectorize入门学习资料-轻松构建Postgres AI工作负载的扩展
OpenLLMetry学习资料汇总 - 基于OpenTelemetry的开源LLM应用可观测性方案
langchaingo
LangChain Go 是 LangChain 的 Go 语言实现,专注于通过模块化方式构建 LLM 应用程序。详细文档和丰富示例帮助用户在 Go 环境中轻松使用 LangChain 开发 LLM 应用。项目提供与 OpenAI 的集成示例,展示生成创意公司名称的功能。丰富的资源和博客文章助力开发者快速上手,实现 ChatGPT 克隆等实际应用,是 Go 开发者构建 LLM 应用的理想选择。
llama_index
LlamaIndex是一个针对LLM应用的数据框架,提供数据连接器、索引、图结构及高级检索查询接口等功能。通过LlamaIndex,用户可以轻松地将现有数据源和格式(如APIs, PDFs, 以及SQL等)整合使用,并且通过简单的API,高效地进行数据查询或定制和扩展模块,以适应各种应用需求。LlamaIndex不仅支持初学者,也适应高级用户的需求,是构建和扩展LLM应用的理想选择。
AdalFlow
AdalFlow是一个基于PyTorch设计模式的大语言模型(LLM)应用库,旨在帮助开发人员构建和优化任务流水线。这个库注重代码的可读性和模块化,能够灵活应对从聊天机器人到文本分类等不同的AI应用。AdalFlow支持用户根据自身的需求进行定制和迭代,提供一种清晰的流水线结构和基于组件的构建方式,使用户能够轻松理解和部署LLM工作流。
promptfoo
提供专业工具集,专为本地测试、评估及红队操作LLM应用设计。支持多种模型和API,确保应用安全可靠,提升评估效率并自动评分输出。适用于CLI、库和CI/CD环境,支持OpenAI、Anthropic等API,完全开源且本地运行,保障数据隐私。
openllmetry
OpenLLMetry是一个基于OpenTelemetry的开源观测工具,支持OpenAI、Anthropic等LLM提供商及Chroma、Pinecone等向量数据库。标准化扩展和Traceloop SDK使集成和监测应用性能变得简单。兼容Datadog、Honeycomb等多种观测工具,实现全面的应用可观测性,优化系统性能。
pg_vectorize
pg_vectorize是一款针对Postgres数据库设计的扩展工具,实现了文本到向量的自动化转换和流行LLMs的连接。简化现有数据上的搜索操作只需两个函数,完美集成了OpenAI和Hugging Face Sentence-Transformers的自然语言处理技术,满足商业与开发的多样性需求。
Play-with-LLMs
Play-with-LLMs提供一系列关于大型语言模型的训练、评估和应用的详细指南,涉及RAG、Agent、Chain等多种结构,包括多个实用案例和应用代码。项目旨在帮助开发者迅速掌握并深入理解大型语言模型。
Awesome-LLM-Eval
Awesome-LLM-Eval 包罗万象,集成了评估工具、数据集、演示与论文资源,深入探讨大型语言模型的评估技术和方法。该平台支撑学术探索与实际应用,并致力于提升语言模型的透明度及可信度。
promptflow
Prompt flow是一款开发工具套件,专注于从创意、原型制作、测试、评估到生产部署和监控的LLM应用开发。它支持流的创建、调试和性能评估,兼容多种平台部署,并提供VS Code扩展用于交互式开发,适用于希望快速高效构建高质量LLM应用的开发者。