Contoso Chat: 构建端到端零售智能助手应用

149 阅读5分钟

Contoso Chat简介

Contoso Chat是一个基于Azure AI平台和Promptflow框架构建的零售智能助手示例应用。它通过检索增强生成(RAG)模式,将大语言模型与企业产品目录和客户购买历史数据相结合,为客户提供个性化的产品咨询和推荐服务。

通过探索和部署这个示例项目,开发者可以学习到:

  • 如何使用RAG模式构建零售智能助手应用
  • 如何使用Prompty资产进行提示工程
  • 如何使用Promptflow框架设计、运行和评估智能助手
  • 如何使用Azure Developer CLI进行资源配置和应用部署
  • 如何应用负责任的AI实践,如评估和内容安全

Contoso Chat架构图

主要特性

Contoso Chat项目具有以下主要特性:

  1. 基于RAG模式的智能助手示例配置,包括聊天和评估提示
  2. 使用Prompty资产简化提示创建和迭代
  3. 零售场景的产品和客户示例数据
  4. 智能助手聊天和评估工作流的示例应用代码
  5. 使用azd模板管理Azure上的应用部署
  6. 使用托管身份作为最佳实践来管理敏感凭据

作为展示Azure AI平台新功能的标志性示例,该项目将持续更新以展示生成式AI开发的前沿特性和最佳实践。

技术架构

Contoso Chat应用实现了检索增强生成(RAG)模式,将模型响应与企业数据相结合。其关键组件和服务包括:

  • Azure OpenAI:部署和管理RAG架构所需的核心模型
  • Azure AI Search:创建和管理产品目录数据的搜索索引
  • Azure Cosmos DB:存储和管理客户购买历史数据
  • Azure托管身份:简化敏感凭据的管理

该架构充分利用了Azure托管身份,减少了开发人员在管理敏感凭据方面的复杂性。

快速开始

要开始使用Contoso Chat项目,您有三种选择:

  1. GitHub Codespaces:基于云的预构建开发环境
  2. VS Code Dev Containers:本地托管的预构建开发环境
  3. 手动设置:本地环境设置(适用于高级用户)

我们推荐使用GitHub Codespaces,这是最快速、最简单的入门方式。

前提条件

在开始之前,请确保您具备以下条件:

  • Azure订阅
  • GitHub账户
  • Azure OpenAI访问权限

对于本地开发,您还需要:

  • Docker Desktop (可选,用于本地dev容器)
  • Visual Studio Code
  • Azure Developer CLI (azd)
  • Python 3.10+
  • Promptflow 1.10+

环境设置

以下是使用GitHub Codespaces的快速设置步骤:

  1. 点击"Open in GitHub Codespaces"按钮启动此存储库。
  2. 等待几分钟完成设置。完成后,您将在浏览器标签中看到Visual Studio Code编辑器,并打开一个终端。
  3. 在VS Code终端中登录您的Azure账户:
azd auth login --use-device-code

Azure部署

完成环境设置后,您可以使用以下步骤将应用程序部署到Azure:

  1. 使用之前进行身份验证的同一终端。
  2. 使用以下命令配置并部署应用程序到Azure:
azd up

3. 系统会询问您几个问题:

*   环境名称:输入CONTOSOCHAT(或选择其他名称)
*   订阅:选择默认值(您登录的Azure订阅)
*   Azure区域:我们建议选择France Central (francecentral)

4. 此步骤需要一些时间才能完成。您可以访问Azure门户监视进度。

  1. 部署完成后,您可以在Azure AI Studio中测试部署的端点。

本地开发

在安装必要的依赖项后,您可以使用本地机器与部署的端点进行交互。或者,您可以使用此存储库的Codespaces或devcontainer,它们可以直接使用。

探索Prompty资产

示例中包含了一个chat.prompty资产,您可以探索这个新功能。该文件包含以下组件:

  • 前端部分:定义应用程序名称、描述、作者、模型配置等属性
  • 系统上下文:定义代理人格和行为
  • 安全、文档、历史订单、客户上下文等模板部分

测试应用程序流程

此示例使用flex-flow功能,让您可以使用Python类或函数作为入口点创建LLM应用程序,从而更容易以代码优先的方式测试和运行它们。

您可以通过以下方式测试流程:

  • 直接运行Python脚本
  • 将其转换为流程,然后使用pf flow test --flow ...
  • 使用pf flow test --flow ... --ui启动UI与流程聊天

负责任的AI实践

Contoso Chat项目采用了多项负责任的AI实践:

  1. 使用Azure托管身份进行身份验证,提高安全性
  2. 提供内容安全和评估功能
  3. 使用GitHub Action工具扫描基础架构即代码文件
  4. 建议启用GitHub secret scanning设置

结语

Contoso Chat项目为开发者提供了一个端到端的零售智能助手应用示例,展示了如何利用Azure AI平台和Promptflow框架构建基于RAG模式的生成式AI应用。通过探索此项目,开发者可以学习到从提示工程到LLM Ops的全流程开发技能,为构建自己的智能应用奠定基础。

我们鼓励开发者深入研究项目代码、尝试不同的配置,并根据自己的业务需求进行定制。随着Azure AI平台功能的不断演进,Contoso Chat项目也将持续更新,展示最新的生成式AI开发特性和最佳实践。

欢迎访问项目GitHub仓库获取更多信息,参与讨论或贡献代码。让我们一起探索生成式AI的无限可能,为零售行业带来更智能、个性化的客户体验! 🚀🤖💬

项目链接:www.dongaigc.com/a/contoso-c… www.dongaigc.com/a/contoso-c…