ai-engineer-workshop

构建评估和优化生产级RAG应用的实践指南

RAG LLM AI工程评估优化生产应用 Github 开源项目

本项目提供了一个实践指南，聚焦于检索增强生成(RAG)应用的构建、评估和优化。内容涵盖基础RAG堆栈设置、评估套件创建、性能优化等关键环节。通过实操，开发者可学习如何利用大型语言模型(LLMs)处理私有数据，开发聊天机器人等AI应用。

Github

介绍相关项目

awesome-llm-apps - 精选RAG与AI代理的多功能LLM应用

AI应用AnthropicGithubLLMOpenAIRAG开源项目

了解一系列使用OpenAI、Anthropic、Google等模型以及本地LLaMA模型构建的LLM应用，涵盖从代码库、电子邮件到投资、旅行等各个领域。这些应用通过详细的文档和开源生态系统，推动AI在多个领域的创新和发展。

rag-stack - 基于RAG技术的企业级智能问答平台

GithubRAGstack企业知识库向量数据库开源LLM开源项目检索增强生成

RAGstack是一个基于检索增强生成(RAG)技术的企业级智能问答平台。该项目支持Llama 2、Falcon和GPT4All等开源大语言模型，利用Qdrant向量数据库实现高效文档检索。RAGstack提供简洁的服务器和用户界面，支持PDF文档上传和智能问答。系统可在本地运行，也可轻松部署到各大主流云平台，为企业提供安全可控的私有化知识问答解决方案。

genai-quickstart-pocs - Amazon Bedrock生成式AI应用示例集

Amazon BedrockGithubRAG开源项目模型评估生成式AI语言模型

项目展示了多个Amazon Bedrock生成式AI应用实例，包括文档摘要、RAG问答、图像生成等。提供Python和.NET两种实现，并集成Streamlit前端，方便快速验证概念。这些示例为开发者提供了丰富的参考，有助于构建创新AI解决方案。

LongRAG - 改进长文本LLM的检索增强生成框架

GithubLongRAGTevatronWikipedia数据开源项目检索增强生成长上下文LLM

LongRAG项目推出新型检索增强生成框架，采用4K token长检索单元提升RAG性能。项目核心包括长检索器和长阅读器，平衡检索与阅读任务复杂度。除提供完整代码实现，还开放处理后的语料库数据集。这为研究长文本LLM与RAG结合提供了重要资源，有助于探索该领域的未来发展方向。

CRUD_RAG - 全面评估中文检索增强生成系统的基准测试

CRUD-RAGGithub中文基准测试大语言模型开源项目检索增强生成评估系统

CRUD_RAG是一个全面的中文检索增强生成(RAG)系统评估基准。该项目包含36166个测试样本，覆盖CRUD操作，支持多种评估指标。CRUD_RAG提供原生中文数据集、评估任务和基线模型，并具备一键式评估功能。这一工具可助力研究人员和开发者全面评估和优化中文RAG系统性能，推动中文自然语言处理技术的进步。

dialog - 简化RAG部署与AI模型训练的应用

API开发GithubOpen-WebUIRAG部署talkd/dialog人性化RAG开源项目

Dialog是为对API开发不熟悉但感兴趣于AI的程序员设计的应用，旨在使用现代框架简化RAG部署。通过提供基于dialog-lib的LLM部署结构，Dialog重点在于人性化RAG回答并扩展其应用范围。使用Docker快速启动，支持PostgresSQL数据库，适配Open-WebUI前端界面。详细教程和全面文档可帮助用户快速上手并高效训练AI模型。

generative-ai-on-aws - 在AWS平台上开发和部署生成式AI应用的全面指南

AWSGenerative AIGithub人工智能开源项目模型优化深度学习

这本由AWS专家编写的指南全面介绍了在AWS平台上开发和部署生成式AI应用的过程。内容涵盖从基础知识到高级技术，包括提示工程、大型语言模型、模型优化、微调技术、RLHF、RAG和多模态模型等。本书探讨了如何利用Amazon Bedrock等AWS服务构建先进的生成式AI解决方案，为开发者和企业提供了在AWS上实施生成式AI的实用知识。

LLM-Ops-Cohort-1 - LLM-Ops实战课程探索大模型生产应用

AI应用开发GithubLLM OpsLangChainLlamaIndexRAG系统开源项目

LLM-Ops-Cohort-1课程聚焦大规模语言模型在生产环境的实践应用。学员将学习使用LangChain和LlamaIndex构建复杂应用，掌握LLM产品开发方法，并构建完整的RAG系统。课程内容涵盖RAG应用开发、智能代理应用、数据处理等实用技能，旨在培养LLM生产环境操作的专业人才。课程还包括Llama 2模型应用、FastAPI开发、性能评估等进阶内容，并介绍了WandB和LangSmith等可视化和可观察性工具，全面提升学员在LLM生产环境中的实践能力。

Prompt-Engineering-Guide - 优化和提升大语言模型应用的最新技术与资源

AI研究GithubLLMsPrompt Engineering开源项目算法优化问答系统

本指南详细介绍如何通过提示工程优化和提升大语言模型（LLMs）的应用，包括基础知识和高级技术，涵盖最新的研究论文、学习指南、讲座、参考资料及工具。适合开发者和研究人员理解与应用LLMs，支持13种语言，提供线上课程及多种服务。

LastMile AI - 全面的生成式AI开发工具集，加速应用从原型到生产

AI工具AI开发平台RAG提示工程模型评估生成式AI

LastMile AI是面向工程师的生成式AI开发平台。它整合RAG工作台、AIConfig和服务网格等工具，支持RAG管道调试、提示词优化和模型管理。平台助力开发者高效将AI原型转化为生产应用，同时提供自动评估、版本控制和统一API等功能，为企业级AI应用开发提供全方位支持。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com