#LLMs

Prompt-Engineering-Guide

本指南详细介绍如何通过提示工程优化和提升大语言模型（LLMs）的应用，包括基础知识和高级技术，涵盖最新的研究论文、学习指南、讲座、参考资料及工具。适合开发者和研究人员理解与应用LLMs，支持13种语言，提供线上课程及多种服务。

chatbox

Chatbox 是一款支持多种语言模型（包括ChatGPT和Claude）的桌面客户端，适用于Windows、Mac和Linux系统。这款应用特别注重用户隐私，不需要部署即可安装使用。它提供多种高级功能，如图像生成、增强提示、键盘快捷方式、Markdown与Latex格式支持等，极大地提升用户工作效率。另外，Chatbox提供了团队协作功能和跨平台的Web版本，允许用户随时随地通过浏览器访问。

optimate

Optimate是由Nebuly AI开发的开源项目，提供多个库协助优化AI模型。虽然项目当前未在维护，其工具如Speedster、Nos和ChatLLaMA帮助用户针对硬件优化AI模型，实现成本节约。想了解更多信息，请访问官方文档。

graphrag

GraphRAG是一个革新的数据管道和转换套件，旨在利用大型语言模型(LLMs)的力量从非结构化文本中提取有意义的结构化数据。该项目通过加快索引过程并优化提示调整，提供在Azure上的端到端用户体验，有效增强LLMs处理私有数据的能力。此外，GraphRAG的研究和开发还专注于推动负责任的AI使用，确保用户能够最大限度地发挥系统的潜力并减少限制的影响。

rag-demystified

本项目深入探讨了检索增强生成（RAG）管道的内部机制，揭示其技巧、局限性和成本。通过LlamaIndex和Haystack框架，了解如何构建和优化RAG管道，并解决透明度和错误问题。详细分析了子问题查询引擎的工作原理，帮助用户理解复杂的RAG管道的关键组成部分和面临的挑战。

awesome-instruction-datasets

该项目提供多语言和多任务的高质量开源指令调优数据集，方便研究人员和开发者轻松访问和利用这些资源。收录数据集包括人类生成、自我指令生成和混合生成的数据，以加速NLP领域的发展，支持如ChatGPT的指令跟随型大语言模型的训练。

safeguards-shield

Safeguards Shield是一个旨在安全、可靠使用大型语言模型(LLMs)的开发者工具包。本工具包提供保护层功能，能够防御恶意输入并过滤模型输出，使AI应用从原型快速转向生产阶段。此外，包含超过20种即用型检测器，为生成式AI(GenAI)应用提供全面的安全保障，并助力缓解LLM的可靠性与安全隐患。工具包还支持监控事件、成本及关于AI的责任指标，支持应用的长期发展。

Promptify

Promptify使用户可以使用GPT、PaLM等流行生成模型，轻松生成各种NLP任务提示。无需训练数据，通过简单的API调用就能快速实现多种NLP任务，如命名实体识别、文本分类和问题生成。其中包括优化提示以降低成本。适用于教育、医疗和企业等多个领域。

ax

Ax项目根据Stanford DSPy研究与Agentic workflows概念，实现智能代理快速开发。支持多种大型语言模型（LLM）、向量数据库，具备自动化提示生成、文档格式转换以及多模态DSPy和流式输出验证。该框架适用于Typescript生产级部署，低依赖性，满足现代软件开发需求。