基于大型语言模型的主动式AI系统生成式设计模式
简介
本仓库包含一系列设计模式,展示如何在Azure中有效构建基于大型语言模型(LLM)的主动式解决方案。
主动式AI系统旨在以有限的直接人工监督自主追求复杂目标和工作流程。这些系统作为独立代理,自主做出决策并执行任务。
主动式AI系统的主要能力包括:
- 自主性:在最少人工监督下采取目标导向的行动
- 推理:进行情境决策,做出判断并权衡取舍
- 适应性规划:根据不断变化的条件动态调整目标和计划
- 语言理解:理解并遵循自然语言指令
- 工作流程优化:灵活地在子任务和应用程序之间切换以高效完成流程
这些能力带来了巨大挑战:
- 平衡自主性与可预测性和安全性
- 确保系统的透明度、可解释性和可审核性
- 确保安全性和隐私性
- 确保系统的公平性和无偏见性
- 人机交互与协作
我们旨在提供有关构建此类系统的基础模块和方法的指导,并明确指出生产路径。
这里列出的模式并非详尽无遗,将随时间演变。我们欢迎社区贡献,帮助我们改进现有模式并添加新模式。
目录
本仓库分为4个主要部分:
1. 基础设计和实现概念
本节涵盖支持主动式AI系统的所有核心设计原则。除了概念之外,我们还回顾了实现这些概念时需要考虑的关键框架。
本节的目标是帮助您:
- 识别对您的解决方案至关重要的设计元素
- 选择适合您架构设计的框架
- 了解您需要交付什么才能做好生产准备,包括负责任的AI和用户体验考虑因素
2. 主动式设计模式
本节将基础元素置于视角中,并提供一组在业界常用的设计模式。
每种模式都旨在解决特定场景,并有一套最佳实践和实施指南支持。
在这里,您将找到最先进的常见场景,以及详细说明它们解决的挑战、如何实施以及每种模式的性能和局限性的参考架构。
3. 参考架构
本节提供了实现这些模式时涉及的核心架构考虑因素的详细信息,并包括如何在Azure中实现它们的具体建议。
这些参考架构支持前一节中概述的所有模式,并提供了明确的生产路径。
4. 主动式加速器
本节提供了一些模式的示例实现,作为即用型解决方案,只需最少的配置和代码更改。
这是理解如何在真实场景中实施这些模式并使用您自己的数据进行测试的良好起点。
请注意,这些加速器不一定涵盖交付生产就绪解决方案所需考虑的所有方面。请参阅基础设计和实现概念部分,以更全面地详细了解相关概念。
5. 辅助设计模式
您将在这里找到一些与主动式AI系统不直接相关的模式,但在主动式AI系统设计的背景下理解它们很重要,因为它们可能支持构建特定代理技能或数据丰富管道。
这里的列表可能非常详尽,但我们选择了一些值得详细介绍的具有挑战性的模式。
贡献
本项目欢迎贡献和建议。大多数贡献要求您同意贡献者许可协议(CLA),声明您有权并确实授予我们使用您贡献的权利。有关详细信息,请访问https://cla.opensource.microsoft.com。
当您提交拉取请求时,CLA机器人将自动确定您是否需要提供CLA,并适当装饰PR(例如,状态检查、评论)。只需按照机器人提供的说明进行操作即可。您只需在所有使用我们CLA的仓库中执行一次此操作。
本项目已采用Microsoft开源行为准则。 有关更多信息,请参阅行为准则常见问题解答或联系opencode@microsoft.com获取任何其他问题或意见。
商标
本项目可能包含项目、产品或服务的商标或标志。Microsoft商标或标志的授权使用必须遵循Microsoft商标和品牌指南。 在本项目的修改版本中使用Microsoft商标或标志不得引起混淆或暗示Microsoft赞助。 任何第三方商标或标志的使用均受这些第三方的政策约束。