引言：AI时代的DevSecOps新挑战
在人工智能快速发展的今天，大型语言模型(LLMs)和生成式AI(GenAI)正在revolutionize软件开发的方方面面。然而，对于传统的软件工程师来说，理解和应用这些新技术并非易事。为了填补这一知识鸿沟，GitHub用户jedi4ever创建了一个名为"learning-llms-and-genai-for-dev-sec-ops"的开源项目，旨在以结构化的方式帮助开发者、运维人员和安全专家掌握LLMs和GenAI的核心概念。
项目概览：一站式LLMs与GenAI学习平台
这个项目的核心是提供一系列易于理解的课程，涵盖了从开发、运维到安全的多个方面。课程主要基于Langchain框架，并假设学习者具备一定的Python编程基础。值得一提的是，许多例子来自各种文档页面，项目作者也在适当的地方给予了归属。
开发者视角：从基础到高级应用
对于开发者而言，课程内容包括：
- 使用OpenAI API调用简单的LLM
- Langchain调试技巧
- 与OpenAI模型进行对话
- 使用提示模板
- 利用Docloader读取本地文件并为LLM准备数据
- 理解嵌入(embeddings)的计算和使用
- 掌握文本分割和分块的重要性
- 将嵌入和文档加载到向量数据库
- 实现RAG(检索增强生成)模式的问答链
- 利用OpenAI文档生成实时信息查询调用
- 实现Agent并提供工具以获取更多实时信息
这些课程涵盖了从LLM基础操作到高级应用的全过程，为开发者提供了一个循序渐进的学习路径。
运维工程师的得力助手
对于运维工程师，项目提供了以下关键课程：
- 计算token使用量和成本
- 使用精确匹配或嵌入缓存LLM调用
- 缓存嵌入计算并在本地运行计算
- 使用Ollama运行本地LLM
- 使用回调处理程序跟踪调用并记录到文件
- 强制输出结构(如JSON)并在不正确时让LLM重试
这些课程帮助运维人员更好地管理和优化LLM应用，提高系统效率和可靠性。
安全专家的必备知识
针对安全方面，项目提供了以下课程：
- 解释OWASP针对LLMs的十大安全风险
- 演示简单的提示注入及其缓解策略
- 使用Hugging Face的第三方模型检测提示注入
- 通过提示检测项目注入
- 检查LLMs提供的答案并进行合理性反思
- 使用Hugging Face模型检测LLM输出是否有毒
- 展示一个简单的提示，用于询问LLM关于Kubernetes和Trivy漏洞的意见
这些课程为安全专家提供了应对LLM和GenAI特有安全挑战的知识和工具。
项目亮点：实用性与社区驱动
- 实际应用导向：课程设计基于真实场景，帮助学习者快速将所学应用到实践中。
- 社区互动：项目鼓励用户提交新课程、纠正错误，并分享使用经验，形成了一个活跃的学习社区。
- 灵活的学习环境：项目提供了devcontainer配置，方便本地运行；同时也支持使用Google Colab等在线环境。
- 持续更新：项目从最初的0.1版本到现在的0.2版本，不断适应新的Langchain语法和结构，保证了学习内容的时效性。
结语：拥抱AI，成为更优秀的DevSecOps实践者
随着AI技术的日益普及，掌握LLMs和GenAI已成为DevSecOps从业者的必备技能。"learning-llms-and-genai-for-dev-sec-ops"项目为我们提供了一个系统性的学习框架，帮助我们在这个AI驱动的新时代保持竞争力。无论你是开发者、运维工程师还是安全专家，这个项目都能为你的职业发展提供宝贵的指导。
让我们携手探索AI的无限可能，共同推动DevSecOps实践的创新与进步！🚀🤖💻
