LLM 训练营
LLM 训练营 - 一个关于 LLM 实际应用的免费在线课程。在 10 周内,您将学习如何构建一个能够回答有关您知识库问题的 AI 系统。
- 给我们一个星星来支持课程!
- 在 DataTalks.Club 的 Slack 上注册
- 加入
#course-llm-zoomcamp
频道 - 加入课程 Telegram 公告频道
- 视频发布在 DataTalks.Club 的 YouTube 频道 的课程播放列表中
- 常见技术问题
- 课程日历
2024 年班次
- 开始日期:6 月 17 日
- 2024 年班次特定材料
先决条件
- 熟悉编程和 Python
- 熟悉命令行
- Docker
- 不需要 AI 或 ML 的先前接触经验
课程大纲
我们鼓励公开学习
课前工作坊
1. LLM 和 RAG 简介
- LLM 和 RAG
- 准备环境
- 检索和搜索基础
- OpenAI API
- 使用 Open AI 的简单 RAG
- 使用 Elasticsearch 进行文本搜索
2. 开源 LLM
- 获取带有 GPU 的环境
- 来自 HuggingFace Hub 的开源模型
- 使用 Ollama 在 CPU 上运行 LLM
- 使用 Streamlit 创建简单的 UI
3. 向量数据库
- 向量搜索
- 创建和索引嵌入
- 使用 Elasticsearch 进行向量搜索
- 检索的离线评估
工作坊:dlt
4. 评估和监控
- RAG 的离线评估
- 余弦和 LLM-as-a-Judge 指标
- 跟踪聊天历史和用户反馈
- 使用 Grafana 创建可视化仪表板
5. LLM 编排和摄取
- 使用 Mage 摄取数据
6. 最佳实践
- 最佳实践
LLM 训练营 2024 竞赛
实践项目
讲师
提问
获取支持的最佳方式是使用 DataTalks.Club 的 Slack。加入 #course-llm-zoomcamp
。
为了使 Slack 中的讨论更有组织:
- 寻求帮助时请遵循这些建议
- 阅读 DataTalks.Club 社区指南
支持者和合作伙伴
感谢课程赞助商使本课程成为可能
想要支持我们的课程和社区吗?请联系 alexey@datatalks.club