Contoso Chat简介
Contoso Chat是一个基于Azure AI平台和Promptflow框架构建的零售智能助手示例应用。它通过检索增强生成(RAG)模式,将大语言模型与企业产品目录和客户购买历史数据相结合,为客户提供个性化的产品咨询和推荐服务。
通过探索和部署这个示例项目,开发者可以学习到:
- 如何使用RAG模式构建零售智能助手应用
- 如何使用Prompty资产进行提示工程
- 如何使用Promptflow框架设计、运行和评估智能助手
- 如何使用Azure Developer CLI进行资源配置和应用部署
- 如何应用负责任的AI实践,如评估和内容安全
主要特性
Contoso Chat项目具有以下主要特性:
- 基于RAG模式的智能助手示例配置,包括聊天和评估提示
- 使用Prompty资产简化提示创建和迭代
- 零售场景的产品和客户示例数据
- 智能助手聊天和评估工作流的示例应用代码
- 使用azd模板管理Azure上的应用部署
- 使用托管身份作为最佳实践来管理敏感凭据
作为展示Azure AI平台新功能的标志性示例,该项目将持续更新以展示生成式AI开发的前沿特性和最佳实践。
技术架构
Contoso Chat应用实现了检索增强生成(RAG)模式,将模型响应与企业数据相结合。其关键组件和服务包括:
- Azure OpenAI:部署和管理RAG架构所需的核心模型
- Azure AI Search:创建和管理产品目录数据的搜索索引
- Azure Cosmos DB:存储和管理客户购买历史数据
- Azure托管身份:简化敏感凭据的管理
该架构充分利用了Azure托管身份,减少了开发人员在管理敏感凭据方面的复杂性。
快速开始
要开始使用Contoso Chat项目,您有三种选择:
- GitHub Codespaces:基于云的预构建开发环境
- VS Code Dev Containers:本地托管的预构建开发环境
- 手动设置:本地环境设置(适用于高级用户)
我们推荐使用GitHub Codespaces,这是最快速、最简单的入门方式。
前提条件
在开始之前,请确保您具备以下条件:
- Azure订阅
- GitHub账户
- Azure OpenAI访问权限
对于本地开发,您还需要:
- Docker Desktop (可选,用于本地dev容器)
- Visual Studio Code
- Azure Developer CLI (azd)
- Python 3.10+
- Promptflow 1.10+
环境设置
以下是使用GitHub Codespaces的快速设置步骤:
- 点击"Open in GitHub Codespaces"按钮启动此存储库。
- 等待几分钟完成设置。完成后,您将在浏览器标签中看到Visual Studio Code编辑器,并打开一个终端。
- 在VS Code终端中登录您的Azure账户:
azd auth login --use-device-code
Azure部署
完成环境设置后,您可以使用以下步骤将应用程序部署到Azure:
-
使用之前进行身份验证的同一终端。
-
使用以下命令配置并部署应用程序到Azure:
azd up
-
系统会询问您几个问题:
- 环境名称:输入CONTOSOCHAT(或选择其他名称)
- 订阅:选择默认值(您登录的Azure订阅)
- Azure区域:我们建议选择France Central (francecentral)
-
此步骤需要一些时间才能完成。您可以访问Azure门户监视进度。
-
部署完成后,您可以在Azure AI Studio中测试部署的端点。
本地开发
在安装必要的依赖项后,您可以使用本地机器与部署的端点进行交互。或者,您可以使用此存储库的Codespaces或devcontainer,它们可以直接使用。
探索Prompty资产
示例中包含了一个chat.prompty资产,您可以探索这个新功能。该文件包含以下组件:
- 前端部分:定义应用程序名称、描述、作者、模型配置等属性
- 系统上下文:定义代理人格和行为
- 安全、文档、历史订单、客户上下文等模板部分
测试应用程序流程
此示例使用flex-flow功能,让您可以使用Python类或函数作为入口点创建LLM应用程序,从而更容易以代码优先的方式测试和运行它们。
您可以通过以下方式测试流程:
- 直接运行Python脚本
- 将其转换为流程,然后使用
pf flow test --flow ... - 使用
pf flow test --flow ... --ui启动UI与流程聊天
负责任的AI实践
Contoso Chat项目采用了多项负责任的AI实践:
- 使用Azure托管身份进行身份验证,提高安全性
- 提供内容安全和评估功能
- 使用GitHub Action工具扫描基础架构即代码文件
- 建议启用GitHub secret scanning设置
结语
Contoso Chat项目为开发者提供了一个端到端的零售智能助手应用示例,展示了如何利用Azure AI平台和Promptflow框架构建基于RAG模式的生成式AI应用。通过探索此项目,开发者可以学习到从提示工程到LLM Ops的全流程开发技能,为构建自己的智能应用奠定基础。
我们鼓励开发者深入研究项目代码、尝试不同的配置,并根据自己的业务需求进行定制。随着Azure AI平台功能的不断演进,Contoso Chat项目也将持续更新,展示最新的生成式AI开发特性和最佳实践。
欢迎访问项目GitHub仓库获取更多信息,参与讨论或贡献代码。让我们一起探索生成式AI的无限可能,为零售行业带来更智能、个性化的客户体验! 🚀🤖💬
