Logo
Project Icon

LLM-Ops-Cohort-1

LLM-Ops实战课程探索大模型生产应用

LLM OpsRAG系统LangChainLlamaIndexAI应用开发Github开源项目

LLM-Ops-Cohort-1课程聚焦大规模语言模型在生产环境的实践应用。学员将学习使用LangChain和LlamaIndex构建复杂应用，掌握LLM产品开发方法，并构建完整的RAG系统。课程内容涵盖RAG应用开发、智能代理应用、数据处理等实用技能，旨在培养LLM生产环境操作的专业人才。课程还包括Llama 2模型应用、FastAPI开发、性能评估等进阶内容，并介绍了WandB和LangSmith等可视化和可观察性工具，全面提升学员在LLM生产环境中的实践能力。

访问官网访问官网GithubGithub
介绍相关项目
LiteLLM - 多语言模型的统一API管理和负载均衡解决方案
AI工具API统一LLM代理LiteLLM企业级服务开源
LiteLLM是一个代理服务器，为100多种大型语言模型提供统一API接口。它支持负载均衡、故障转移和支出跟踪，采用OpenAI格式。该工具简化了认证、资源分配和成本控制。LiteLLM提供开源和企业级解决方案，适用于不同规模组织。它拥有大量Docker下载量和请求服务量，得到众多贡献者支持。
llama-models - Meta推出的开放大型语言模型Llama
GithubLlama人工智能大语言模型开源开源项目自然语言处理
llama-models是Meta开发的开放大型语言模型项目，为AI开发者、研究人员和企业提供易用的工具。项目包含Llama 2、Llama 3和Llama 3.1等多个版本，支持不同模型规模和上下文长度。llama-models注重开放性、生态系统支持和安全性，为AI创新与负责任发展奠定基础。
learn-generative-ai - 将生成式AI技术应用于实际项目的课程
GenEngGenerative AIGithubGoogle CloudMicrosoft AzureOpenAI API开源项目
本课程帮助学员了解如何将生成式AI技术应用于实际项目，涵盖从云平台注册到生成式AI模型的集成与优化的全过程。内容包括微软Azure和Google Cloud的AI服务注册、生成技术工程（GenEng）的实践技巧，以及利用LangChain、Pinecone等开源工具开发和部署大型语言模型（LLM）。适合开发者、数据科学家和对生成式AI技术有兴趣的学习者。
ml-engineering - 大规模语言模型与多模态模型的训练方法
BLOOM-176BContextual.AIGithubHuggingFaceLarge Language ModelsVLM开源项目
本指南系统介绍了方法、工具和逐步操作说明，帮助工程师成功训练大规模语言模型（LLM）和多模态模型（VLM）。内容涵盖丰富的脚本和命令，适合LLM/VLM训练工程师和操作员使用。基于作者在开源BLOOM-176B和IDEFICS-80B模型训练中的经验，提供有效解决方案，并持续更新，服务于ML社区。
cog-llama-template - 使用Cog工具构建和部署多版本LLaMA模型指南
AI语言模型CogGPUGithubLLaMA开源项目模型部署
本项目提供使用Cog工具构建和部署多版本LLaMA模型的详细指南。涵盖从权重准备到Replicate平台部署的全过程，支持7B、13B和70B规模的LLaMA和LLaMA2模型。适用于研究人员和开发者进行LLaMA模型的云端部署和API开发。
awesome-LLM-resourses - 中文大语言模型全面资源汇总 数据处理到评估应有尽有
GithubLLMRAG大语言模型开源项目微调推理评估
该项目汇总了中文大语言模型(LLM)领域的全面资源，包含数据处理、微调、推理和评估等多个环节的开源工具。资源库涵盖最新LLM技术，并收录RAG系统和AI代理等前沿应用。项目为LLM研究者和开发者提供了丰富的工具和信息，有助于推进相关项目的开发与应用。
llm_training_handbook - 大规模语言模型训练手册
GithubLLMThe Large Language Model Training Handbooktensor精度吞吐量最大化开源项目模型并行
该手册为语言模型训练工程师和操作员提供了多种方法和实用脚本，涵盖模型并行性、最大化吞吐量、张量精度和数据类型、训练超参数和模型初始化、不稳定性排查、以及软件和硬件故障调试等方面。适合需要深入技术细节的用户。若需要概述性和概念性内容，请参考姊妹项目The Large Language Model Training Playbook。
mlcourse.ai - 综合性机器学习在线课程 理论实践并重
GithubOpenDataSciencemlcourse.ai开源项目数据分析机器学习课程算法
mlcourse.ai是OpenDataScience推出的开放式机器学习课程,涵盖数据分析到梯度提升等10个主题。课程通过理论讲解与实践作业相结合,帮助学习者掌握机器学习技能。提供多语言学习资源,包括文章、视频和编程作业,支持自定进度学习。另有付费作业包供选择,进一步提升学习效果。
MINI_LLM - 完整中文大语言模型训练流程实践
DPOGithubMini-llm大模型开源项目微调预训练
MINI_LLM项目展示了完整的中文大语言模型训练流程，涵盖预训练、SFT指令微调和DPO优化阶段。该项目基于QWEN模型，利用多种数据集训练出1.4B参数规模的模型。项目详细介绍了数据处理方法、提供训练脚本，并包含多GPU训练指南，为中文大语言模型开发提供了实用参考。
llms-from-scratch-cn - 动手构建大语言模型的完整教程
DatawhaleGithubLLMs From Scratch人工智能大语言模型开源项目深度学习
本教程提供系统化的学习路径，涵盖基础理论、实际编码、数据处理、注意力机制、预训练和微调，帮助开发者掌握ChatGPT等大型语言模型的核心技术，适合具备一定编程基础的技术人员。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号