构建 AI 智能体应用——AI 智能体的未来趋势

数据智能老司机
0 阅读36分钟

引言

人工智能正进入一个变革性阶段，而 AI 智能体正处于这场演进的前沿。这些 AI 智能体曾经仅限于执行简单任务，如今正在发展为具备独立决策、学习与适应能力的复杂系统。随着我们迈向一个新时代，AI 智能体的未来不仅意味着技术突破，也将深刻改变我们的工作方式、互动方式与创新方式。本章将讨论正在重塑智能体式 AI（agentic AI）版图的新兴趋势与创新，从更高程度的自主性、多模态能力，到垂直化智能体与多智能体系统的兴起。

随着 AI 智能体从独立系统转变为生产级“队友”，它们融入业务流程与日常生活的速度正在加快。这些智能体正在做出决策、动态调整策略，并以过去难以想象的方式与人类协作。其影响是深远的：智能体式 AI 正在推动运营效率、催生新的商业模式，并重塑医疗、金融、制造、教育等多个行业的劳动力结构。

然而，能力越强，责任越大。本章也将讨论信任、透明性与伦理对齐等关键挑战——这些问题必须被妥善应对，才能充分释放 AI 智能体的潜力。通过同时审视前方的机遇与复杂性，本章旨在帮助读者理解智能体式 AI 的发展方向——以及这对社会、产业与人类潜能的未来意味着什么。

结构

本章将涵盖以下主题：

  • 智能体式 AI 的未来趋势
  • 智能体式 AI 的创新
  • 智能体式 AI 的产业影响
  • 在智能体式 AI 中建立信任

目标

在本章结束时，读者将全面理解塑造 AI 智能体未来的变革性趋势。本章旨在帮助读者洞察：AI 智能体如何从基于规则的工具，演化为具备独立决策能力、上下文感知能力，并可无缝融入复杂工作流的协作者。读者将了解推动更高自主性、多模态能力以及垂直化与多智能体系统出现的技术进展。

本章还将加深读者对智能体式 AI 在各行业中的实际与战略影响的理解，强调这些智能体如何革新业务流程、提升生产力并催生新的商业模式。此外，读者还将批判性地审视随着自主性不断增强的 AI 智能体部署而来的伦理、治理与信任挑战，学习构建负责任、透明且可信系统的框架与最佳实践。

通过真实案例与前瞻性分析，本章鼓励读者预判智能体式 AI 将带来的社会与劳动力变革，并思考在这一快速变化的环境中实现良好发展的技能与策略。归根结底，本章的目标是同时培养技术素养与伦理意识，使读者能够更有思辨地面对下一代 AI 智能体带来的机遇与挑战。

智能体式 AI 的未来趋势

AI 智能体正从孤立试点走向生产级“队友”，能够在端到端业务流程中进行规划、行动与学习。在未来 12 到 36 个月内，若干技术与运营模型的转变将塑造企业如何设计、部署与治理这些系统。以下将介绍其中一些智能体式 AI 的未来趋势。

更高的自主性

AI 智能体的演进以其独立行动能力不断增强为特征：它们不再只是工具，而是逐步成为自主队友。这一进展是未来图景的核心——AI 系统能够在无需持续人工干预的情况下追求目标、做出决策并执行多步骤任务。

AI 智能体正在从基于规则的机器人转变为能够在最少人工监督下运行的动态实体。它们正在从任务自动化走向独立决策者。借助强化学习、生成式模型与持续自我改进能力，未来的智能体将能够：

  • 在不可预测环境中做出细腻、具备上下文感知的决策。
  • 实时调整策略，在多样化生态系统中管理工作流。
  • 在临床、工业与法律领域独立运行。
  • 跨领域无缝协作，融入人类工作流。

例如，像 IBM watsonx 这样的自主研究智能体可以综合数千份报告、总结洞见并给出行动建议，而无需人工干预。

改善人机协作

MIT Sloan 和 Stanford 的研究指出，人机关系正转向“协作伙伴”模式：智能体增强人类角色，而非取代人类角色。AI 智能体的未来不在于替代人类，而在于构建 AI 与人类相互放大优势的混合团队。这些智能体正在从简单工具演化为协作型队友，承担重复性、数据密集型任务，而人类则专注于创造力、战略与同理心。

例如，AI 智能体可以分析数百万笔交易以检测欺诈模式，而人类调查员则负责解读结果并做出判断。Gartner 预测，到 2028 年，15% 的日常工作决策将由 AI 智能体自主完成，这标志着向“共享决策”的转变。

AI 智能体通过成为“伙伴”而不仅仅是“工具”来提升生产力。未来的智能体将作为数字队友运行，在规划、学习与执行方面映射人类认知。这种协同可实现：

  • 通过模拟与预测实现更快决策。
  • 由人类主导目标设定与伦理监督，确保结果负责任。
  • 协作式工作流，让智能体支持而非取代人类角色。

例如，在医疗领域，虚拟护士可通过便捷的远程护理提升患者参与度；同时通过重新分配任务提升床旁护士效率。这有助于减少职业倦怠、提高护士留任率，并通过减少不必要住院带来成本节省。

多模态智能体

下一波 AI 智能体的定义性特征，是其能够实时处理并作用于多种类型数据（如文本、图像、语音等）。这些多模态智能体融合语音、视觉与语言能力，使其能够对图像或扫描进行分类、解析文档并自然对话，而且往往能够同时进行。例如，一个客服智能体可以读取邮件、查询数据库，并立即通过语音电话作出回应。

企业已经在部署此类能力。亚马逊零售技术栈现已包含生成式 AI 工具（如 Rufus——一个基于商品目录与网络知识训练的对话式购物专家），以及由 LLM 驱动的个性化商品描述，这标志着商业领域正在更广泛地转向多模态发现与引导。Microsoft 365 Copilot 与 Office 应用集成，在统一工作流中完成会议总结（音频）、文档洞察提取（文本）和图表解读（图像）。医疗分诊机器人则结合患者语音、面部表情（视频）与病历（文本或图像）进行分析，以提供更准确的评估。

下一代多模态智能体将能够：

  • 通过自然语言、视觉、手势，甚至情绪检测进行交互。
  • 为不同用户、语言与能力提供个性化沟通，从而支持无障碍访问。
  • 在数字与物理环境中实现更丰富、更直观的协作。

例如，在银行业，AI 智能体现已能够使用视频、语音指令和书面输入来验证客户身份，以增强安全性。

垂直型 AI 智能体

企业正在超越通用 AI，转向构建垂直型 AI 智能体——基于专有、行业特定数据与本体训练或组合而成的 AI 系统。这种方法能显著提升准确率、减少幻觉，并使智能体在行业工作流中具备深度上下文理解能力。例如，沃尔玛在其购物助手与商家工具背后部署了零售专用 LLM。这些智能体能够理解商品目录、优化门店运营，并通过定制化推荐与实时支持提升客户旅程。

垂直型 AI 智能体的关键优势包括：

  • 由于采用领域特定训练，准确性与可靠性更高。
  • 与现有企业系统（CRM、EHR、ERP）无缝集成。
  • 通过嵌入行业法规与最佳实践，降低合规风险。
  • 通过自动化高价值、行业特定任务，实现更快 ROI。

例如，DAX Copilot 就是医疗领域智能体的典型代表，它能监听临床会话并将结构化病历草稿直接写入 Epic、Meditech 等 EHR 系统。

多智能体协作

AI 的未来将由分布式、具韧性的网络中相互协作的“智能体群体”所塑造。不同于单智能体系统，多智能体架构使得一组具有不同角色与专长的智能体可以协调、共享信息，并解决超出任何单一智能体能力范围的复杂问题。例如，在金融市场中，多智能体系统可动态对冲风险、管理投资组合并协同交易资产。不同专长的智能体负责分析市场趋势、执行交易与监控合规，共同优化收益并降低系统性风险。

多智能体协作的关键优势如下：

  • 可扩展性：可轻松增加或移除智能体以应对负载变化。
  • 韧性：分布式设计确保即使个别智能体失效，系统仍可持续运行。
  • 适应性：智能体可基于实时数据与同伴反馈学习并调整策略。

例如，在软件开发中，多智能体工作流可将编码、测试与文档编写分配给专门智能体，从而加快交付并提升代码质量。

AgentOps

随着 AI 智能体自主性增强，企业正在逐步形成 AgentOps（智能体运营）这一实践体系，专注于监控智能体行为、执行策略并在整个生命周期内确保合规。AgentOps 将 DevOps 与 MLOps 的原则扩展到大规模管理动态、可决策 AI 智能体所面临的独特挑战。随着自主性提高，AgentOps 将成为扩展智能体式 AI 的基础，确保智能体保持可靠、透明，并与组织与监管要求保持一致。

AgentOps 实践包括：

  • 可观测性：深度追踪智能体的推理、行动与交互，实现全透明与可调试。像 Azure AI Foundry 和 AgentOpsAI 这样的工具可提供实时监控、执行日志与性能分析。
  • 持续改进：维护详尽审计日志与性能指标，用于持续优化。
  • 安全与护栏：用于高影响决策的自动评估器、提示防火墙与人类在环检查点。这些护栏可防止意外行为，确保智能体在定义边界内运行。
  • 治理与合规：在智能体工作流中内建不可篡改审计轨迹、策略执行与监管对齐。这在医疗与金融等受监管领域尤为关键，因为这些领域对监督与可解释性有强制要求。

例如，DAX Copilot 和 TREWS 等医疗智能体已经嵌入工作流监督机制，如供临床医生审阅的草稿、可解释告警与结果跟踪，为临床环境中的安全与合规树立了新标准。

基础设施加速

AI 智能体能力的快速扩展，正由下一代计算与数据平台驱动。现代基础设施（如流式数据管道、向量检索、RAG 等）使智能体能够以更高速度和精度处理长周期任务。例如，医疗系统正在使用高性能技术栈加速 AI 工作流。Mayo Clinic 部署的 NVIDIA Blackwell DGX SuperPOD 正在推动数字病理与生成式 AI 应用的发展，使近实时临床智能体成为可能，并缩短模型迭代周期。

其关键收益包括：

  • 低延迟推理，支持实时决策与用户交互。
  • 可扩展的 MLOps，用于快速部署、监控与更新智能体。
  • 通过集中化控制与合规框架增强可靠性与安全性。
  • 通过更快的模型迭代与部署周期加速创新。

例如，在高性能基础设施支持下，嵌入医院数字病理工作流的临床智能体可以在数秒内完成扫描分析、检索相关患者病史并向临床医生提出行动建议。

智能体式 AI 的创新（Innovations in agentic AI）

智能体式 AI 的最新创新正在迅速拓展这类系统的能力边界，推动其迈向能够跨领域推理、学习与适应的通用人工智能（AGI）。下一代架构正从语言模型演进为具备常识与多模态学习能力的世界模型；与此同时，情感智能、边缘 AI 与去中心化智能体方面的进展，正在提升系统的响应性、隐私性与可靠性。自主智能体也在加速科学发现，而新一代智能体操作系统则支持可扩展、透明、集成化的工作流，为下一阶段企业自动化与数字协作奠定基础。以下各小节将详细介绍这些即将到来的创新。

通用人工智能（Artificial general intelligence）

AGI 指的是一种 AI 系统：无需针对特定领域进行专门训练，就能够在所有领域执行人类能够完成的任何智力任务。不同于当今仅限于特定任务的狭义 AI，AGI 将结合推理、学习与适应能力，以在不可预测的真实世界环境中运行。

关于 AGI 的预测正在加速。一些对 AI 研究者的调查估计，AGI 在 2047 年前实现的概率为 50%；也有部分人预测突破可能最早出现在 2026–2032 年。AI 智能体正从专用工具演变为通用协作者，逐步接近 AGI 的愿景。这一进程表现为：

  • 能够在陌生情境中也进行具备上下文感知的决策，并实时调整策略。
  • 融合推理、学习与常识，使智能体无需重新训练即可跨多领域运行。
  • 更高的自主性，使智能体在最少人工监督下管理复杂工作流与多步骤任务。
  • 对安全性、可靠性与伦理治理的关注持续增强，以确保 AGI 系统与人类价值观保持一致。

例如，近期基于智能体工作流的进展（如自主研究智能体可综合数千篇科学论文、总结洞见并提出行动建议）展示了通往 AGI 的发展轨迹。Demis Hassabis（DeepMind）与 Andrew Ng（DeepLearning.AI）等行业领袖都将这类智能体系统视为关键里程碑。

下一代 AI 架构（Next-generation AI architectures）

AI 智能体的演进正进入新阶段，其标志是从“以语言为中心”的模型转向能够真正理解并与世界交互的系统。包括 Yann LeCun（Meta）在内的领先研究者预测，在未来三到五年内，AI 将超越 LLM，迈向能够构建世界模型的架构。这些模型（包括 LeCun 的联合嵌入预测架构，JEPA）旨在通过观察与交互学习，为 AI 赋予常识、因果推理与规划能力，类似于人类的学习方式。

AI 智能体正从符号智能转向具身智能，使其能够：

  • 在动态、真实世界环境中预测结果并理解因果关系。
  • 从多模态数据（文本、图像、视频与传感器输入）中学习，以获得更丰富的上下文与适应能力。
  • 跨领域泛化知识，减少在新任务上的重新训练需求。
  • 无缝融入物理与社会环境，支持机器人、自动驾驶车辆与智能助手。

例如，Meta 的 V-JEPA 与 DeepMind 的 Genie 3 正在率先探索世界模型架构，使 AI 智能体能够通过观察与预测视频和物理环境中的事件来学习。这些系统可以预判结果、适应新场景并规划行动。

AI 智能体中的情感智能（Emotional intelligence in AI agents）

AI 智能体越来越多地被设计为具备情感智能，使其能够识别、解释并回应人类情绪。这一能力正在改变 AI 在心理健康、客户服务与协作工作中的支持方式。

关键趋势包括：

  • 情感感知型智能体（Sentiment-aware agents） ：AI 系统通过分析文本、语音和面部表情来检测情绪状态，并据此调整响应方式。情感分析工具可帮助客服智能体识别挫败感或满意度，从而实现主动且更具同理心的互动。
  • 情绪检测与响应（Emotion detection and response） ：先进的自然语言处理（NLP）、情感计算（affective computing）与情感分析，使 AI 能够模拟同理心、缓和紧张局面，并实现个性化互动。

例如，Replika 等 AI 聊天机器人可提供实时情绪支持、情绪追踪与认知行为疗法工具，用于提供心理健康支持、识别焦虑或抑郁迹象，并给出个性化应对策略。

边缘 AI 与去中心化智能体（Edge AI and decentralized agents）

下一代 AI 智能体正将智能能力推向数据产生的位置，即直接运行在边缘设备上，如智能手机、传感器、自动驾驶车辆和医疗可穿戴设备。这一转变降低了延迟、增强了隐私保护，并在不依赖中心化云系统的情况下实现实时响应。例如，在医疗场景中，部署在医疗可穿戴设备上的临床智能体可实时分析环境音频与传感器流数据，在与电子病历同步之前就生成告警或草拟病历记录。

AI 智能体正在演化为可在边缘与去中心化网络中运行，从而实现：

  • 设备侧实时感知—行动闭环：支持自动驾驶、智能摄像头、医疗诊断等场景中的即时决策。
  • 增强的隐私与安全性：敏感数据本地处理，仅将聚合洞见上传云端，降低暴露风险并支持合规。
  • 更高的可靠性与离线能力：即使云连接受限或不可用，关键操作仍可持续运行。
  • 与物联网（IoT）网络无缝集成：分布式智能体协同传感器、执行器与机器人，支撑智能制造、物流、农业和医疗。

例如，零售商正在利用边缘 AI 实现店内视觉搜索与个性化试穿/尺码建议，在本地处理客户数据以提升隐私与响应速度。在物流与制造领域，去中心化 AI 智能体协调机器人与传感器群，优化工作流并实现预测性维护，而无需持续依赖云端。

自主科学发现（Autonomous scientific discovery）

AI 智能体正迅速成为科学研究中的独立协作者，正在改变多个领域科学发现的速度与范围。这些智能体不仅是在支持科学家，还在自动化并加速科学过程的核心环节。例如，在材料科学中，它们通过模拟与优化实验条件，帮助发现新型材料。

AI 智能体正在赋能以下能力：

  • 自动化文献综述：快速综合海量研究成果，识别研究空白与机会。
  • 假设生成：基于数据分析与模式识别提出新的研究问题或实验方向。
  • 实验设计与优化：实现更快迭代与更高效的资源利用。
  • 加速发现周期：在药物研发、材料科学与气候研究等领域显著超越传统以人为主导的时间线。

例如，在药物发现中，AI 智能体可自主扫描科学文献、提出新化合物假设，并设计实验验证其有效性。

智能体操作系统（Agent operating systems）

最新一代 AI 智能体已远远超越简单聊天机器人，开始结合高级推理、持久记忆与工具调用能力，以管理复杂的多步骤工作流。这些创新凸显了一个关键趋势：成功如今不仅取决于底层模型，也同样取决于 AI 原生基础设施（持久记忆、安全工具集成、实时数据访问）。这些创新也标志着智能体操作系统（Agent OS）的出现，它将成为下一代企业自动化与数字化劳动力的基础。

Agent OS 的优势如下：

  • 更高生产力：通过无缝集成多样化工具与数据源。
  • 更高可靠性与一致性：智能体能够记住上下文并从历史交互中学习。
  • 更强透明性与可控性：用户可以实时介入并优化工作流。
  • 可扩展性：组织可部署并管理大量智能体以并行执行任务。

例如，Manus 的广泛研究展示了规模化编排的能力：可并行调度 100 多个智能体进行大规模产品分析与内容生成。

智能体式 AI 的产业影响（Industry impact through agentic AI）

AI 智能体的崛起标志着现代商业中的一场变革性转折，从根本上改变行业如何运作、竞争与创造价值。这一变化正在重塑成本曲线、缩短业务周期，并重新定义各行业的运营模型。不同于传统 AI 主要进行数据分析和提供洞见，智能体式 AI 系统能够自主行动，在极少人工输入下做出决策并执行任务。这种从“被动智能”到“主动智能”的演进，正在释放行业级转型的新机会，推动效率提升，并催生全新的商业模式。以下小节将介绍智能体式 AI 系统在各行业中的一些潜在影响。

经济价值创造（Economic value creation）

根据 Capgemini Research Institute 关于智能体式 AI 未来的研究报告，到 2028 年，AI 智能体可创造高达 4500 亿美元 的经济价值（见图 8.1），其驱动力既包括运营效率提升，也包括增长促进。在运营效率方面，AI 智能体推动成本下降并改善运营结果，同时具备 24/7 可用性。与此同时，增长来自于 AI 智能体放大团队知识与能力并创造附加价值。这些价值来源于复杂流程自动化、决策速度与准确性的提升，以及新型客户互动方式的实现。

image.png

图 8.1：到 2028 年智能体式 AI 的经济潜力
来源：Capgemini Research Institute，2025

其他领先机构也给出了类似的经济价值估计，如下所示：

  • 高盛（Goldman Sachs） 预测，生成式 AI 将在未来十年推动美国 GDP 增长 6.1% 。到 2028 年，这约相当于美国 5400 亿美元 的影响。
  • IDC 预测，到 2030 年 AI 技术整体将影响全球 GDP 的 3.5% 。按此推算，到 2028 年全球影响约为 1.9 万亿美元。该估计涵盖所有 AI 技术，包括智能体式 AI。
  • MIT 研究人员 估计，AI 可自动化略高于 20% 的增值任务。这与我们的估计较为一致：未来三年内，平均约 20% 的流程可由自主等级 3 级或以上的 AI 智能体实现自动化。

尽管对 AI 经济价值的估计存在明显差异，但普遍共识是：智能体式 AI 将产生显著影响。下表突出展示了智能体式 AI 在运营效率与增长方面的业务影响。

表 8.1：智能体式 AI 的业务影响（Business impact of agentic AI）

来源：Capgemini Research Institute

类别收益领域描述示例
运营效率缩短周期时间加快产品测试与决策自动化保险理赔；快速产品发布；即时贷款审批
运营效率提升生产力处理重复性、高吞吐任务，使人专注于战略性工作AI 驱动的文档审核；IT 工单分诊；高管自动排程
运营效率提高准确性与一致性确保流程标准化并减少人工错误一致化财务报告；自动化 HR 入职；合规检查
增长与创新加速科学发现促进科学、研发与创新更快取得突破AI 驱动药物发现；新材料仿真；脑机接口研究
增长与创新催生新产品支持创建先进智能设备自动配送无人机；可穿戴健康监测器；AI 机器人与车辆
增长与创新提供 24/7 服务持续、全天候支持与互动24/7 AI 客服；自动化贷款分析；AI 旅行助手

新用例前沿（New use case frontiers）

AI 智能体不仅在优化现有流程，还在从根本上重定义运营模型，并在多个行业中创造新机会。AI 智能体正在商业、医疗、运营、知识工作与教育等领域解锁创新应用。这些前沿用例正在拓展自主系统的能力边界，实现超个性化、无缝协作与可问责的自主性。

AI 智能体正在推进跨行业新用例：

  • 商业（Commerce） ：商业中的自主协商与售后服务，智能体与智能体之间处理促销、捆绑销售、退货与保修；对话式商品策展让搜索不再局限于关键词。
  • 医疗（Healthcare） ：临床中的多模态分诊与自适应编排，结合患者自报症状、设备遥测与病历数据进行分流并优化居家医院项目。
  • 运营（Operations） ：使用数字孪生与预测信号（天气、事件）联合规划库存、人力与物流，实现实时预测、排班与履约。
  • 知识工作（Knowledge work） ：企业研究智能体可阅读海量文档、调和冲突证据，并生成带引用与来源链路的可审计建议。
  • 教育（Education） ：自适应 AI 教学智能体为每位学习者个性化课程、反馈与节奏；教师智能体辅助备课、批改与学生干预。
  • 零售与电商（Retail and ecommerce） ：超个性化智能体可根据个体偏好、场景与行为进行适配，在各行业中提供更有意义的互动与预测。

表 8.2 突出展示了这些潜在用例在各行业中的预期影响。

表 8.2：AI 智能体在各行业的潜在用例与预期影响（AI agent potential use cases and expected impact across industry）

行业AI 智能体用例预期影响
医疗诊断、患者监测、药物发现、个性化治疗、24/7 护理协调早期预警检测、降低临床人员倦怠、改善健康公平性、多专科团队编排
金融自适应交易、风险管理、自主合规、个性化财务规划更快交易、动态风险响应、持续策略更新、定制化金融建议
制造与供应链用于排程、预测性维护、物流路径规划与中断处置的分布式智能体群优化工厂运营、减少停机、自主库存管理、协同机器人系统
零售与电商超个性化客户旅程、智能体驱动协商、自动化采购、售后支持个性化推荐、实时价格调整、自动化 B2B 决策
教育自适应 AI 导师、教师智能体（备课、批改、学生干预）个性化学习、教育机会普惠、提升教师参与度

跨行业影响（Cross-industry impact）

AI 智能体带来的变革并不局限于单一行业，它正在创造跨行业协作与创新的新机会。随着 AI 智能体日益成熟，它们正在催生新的商业模式、重塑竞争格局，并在全球经济中推动前所未有的运营效率提升。

AI 智能体正在通过以下方式加速跨行业影响：

  • 推动生态协同创新：不同领域组织基于共享 AI 平台与数据开展协作。
  • 创造新商业模式：利用自主智能体实现端到端服务交付、个性化体验与实时决策。
  • 重塑竞争格局：让企业能够以 AI 驱动的敏捷性快速适应、扩展并进入新市场。
  • 规模化提升运营效率：智能体系统优化工作流、自动化复杂流程，并在供应链、物流与客户互动中无缝集成。
  • 促进跨行业伙伴关系：AI 智能体连接医疗、金融、零售与制造，交付整合解决方案。

例如，零售商与物流服务商合作使用 AI 智能体进行实时库存管理与需求预测；医疗机构则与科技公司合作开发 AI 驱动的患者护理平台。这些跨行业协作正在释放新的价值流，并改变企业运营与竞争方式。

劳动力转型（Workforce transformation）

AI 智能体正在通过自动化常规任务、让人类专注于更高价值活动来重塑未来工作。AI 智能体并非单纯消灭岗位，而是在改变岗位形态、创造新机会，并将人类贡献重心转向战略、创造与协作。

AI 智能体正在通过以下方式推动劳动力转型：

  • 自动化重复性、高强度与高风险任务，使人类专注于创造力、同理心、战略与监督。
  • 创造新角色，如 AI 产品经理、智能体工程师、AI 伦理专家与提示词工程师，同时提升对 AI 提示能力、数字素养与批判性思维等技能的需求。
  • 从“直接创作”转向“策展与指挥” ，即员工不再从零开始，而是引导、审查并优化 AI 产出。
  • 降低创业门槛，AI 工具与低代码平台使个人可用较少资源启动业务。
  • 人机协作团队（Human-AI teaming） ，通过混合团队最大化生产力与创新。

例如，软件工程师可以将代码生成任务交给 AI 智能体，从而专注于用户体验或产品战略；HR 专业人员则可从行政事务转向提升员工参与度。

AI 智能体将推动新一轮企业转型时代，带来显著经济价值与运营效率。然而，要实现其全部潜力，组织必须解决信任、伦理、数据就绪性与劳动力转型等问题，确保 AI 智能体成为未来劳动力中值得信赖的协作成员。下一节将聚焦如何在 AI 中建立信任的未来趋势，以便在各行业中充分释放智能体式 AI 的潜在价值。

构建对智能体式 AI 的信任（Building trust in agentic AI）

加速 AI 智能体在各行业中的落地，关键在于建立信任。根据 Capgemini 的研究，智能体式 AI 采用过程中的主要挑战之一就是信任。对完全自主 AI 智能体的信任度在一年内从 43% 下降到 27%。另一个突出挑战是伦理层面的担忧，例如隐私、偏见、透明性等。因此，构建可信且符合伦理的 AI 系统至关重要。在敏感应用中，智能体必须在个性化与用户隐私之间取得平衡。同时，也必须持续警惕偏见问题并确保包容性，尤其是在高风险行业中。

可信且合乎伦理的 AI 智能体（Ethical and trustworthy AI agents）

随着 AI 智能体变得更加自主，并进入医疗、金融、法律等关键领域，伦理问题变得极其重要。构建可信智能体需要以偏见缓解、透明性、问责性、隐私和安全为基础。下表总结了构建 AI 智能体信任所涉及的伦理问题及其缓解策略：

表 8.3：伦理问题与缓解策略（Ethical concerns and mitigation strategies）

伦理问题描述与影响缓解策略与框架
偏见（Bias）训练数据偏差导致不公平结果；带来法律与声誉风险。数据多样化、公平性算法、审计、多学科团队协作。
透明性（Transparency）决策过程不透明会削弱信任与监督能力。可解释 AI、文档化、开放沟通、实时可见性。
问责性（Accountability）难以界定责任归属；存在损害无人负责的风险。治理框架、利益相关方参与、国际指南、用户申诉/质疑机制。
隐私（Privacy）敏感信息泄露或被不当共享。隐私保护机制、访问控制、数据隔离、用户控制权。
安全（Security）易受攻击与滥用。多层防护、监控、输入/输出校验、安全目录。
对齐（Alignment）确保 AI 目标与人类价值一致；否则可能产生非预期后果。协作式逆向强化学习（CIRL）、鲁棒性研究、多学科协作。

随着 AI 智能体变得更强大、更普及，将伦理原则嵌入其设计与运行方式，是实现负责任创新与广泛采用的关键。未来的一些发展方向包括：

  • 将公平性、透明性、可解释性与问责性的伦理准则嵌入智能体架构。
  • 治理智能体（governance agents）将负责监控、审计和干预，以执行伦理标准。
  • 不断扩展的监管将推动隐私保护、偏见缓解与安全智能体运行，尤其是在金融、医疗和国防等敏感领域。
  • 可解释性工作将聚焦于确保智能体决策可被理解并可接受审查。
  • 人类监督与清晰的治理结构仍将是防止伤害、确保信任的核心。

构建对智能体式 AI 的信任，也可以通过遵循全球 AI 法规与治理框架来实现，如下所示：

  • 联合国教科文组织（UNESCO）AI 伦理建议：设定全球伦理标准，强调在促进透明性、问责性与人权的同时，保护隐私、公平与尊严。
  • 美国国家标准与技术研究院（NIST）AI 风险管理框架（RMF） ：为组织管理 AI 风险、构建可信系统提供实用且自愿采纳的框架。
  • 欧盟 AI 法案（EU AI Act） ：以统一、基于风险的法律体系为核心，强调安全、权利与透明性，并要求在关键智能体决策中落实透明性与问责性。
  • 美国行政命令（US executive order） ：更多依赖行业规则与州级规则，强调创新与公民权利。
  • 中国 AI 指南（China’s AI guideline） ：实施更严格、国家主导的管控，优先考虑安全与社会稳定。

所有框架都旨在平衡创新与安全/伦理，但在执行力度、适用范围和底层价值观方面存在差异。因此，未来的 AI 智能体需要符合这些法规与治理框架，才能建立对智能体式 AI 系统的信任。

结论（Conclusion）

AI 智能体的未来由深刻的变革与创新所定义。随着智能体式 AI 系统从基于规则的自动化演进为智能、具备上下文感知能力的协作者，它们正在打破行业边界，并重塑工作、社会与人类互动的结构。本章强调了多模态与垂直领域 AI 智能体、多智能体协作以及健全的 AgentOps 实践等趋势如何让 AI 智能体在复杂工作流中成为值得信赖的队友，从而推动效率提升并释放新机会。对 AGI 的追求以及无缝的人机协作，既充满前景，也伴随复杂性。

然而，这一进步也带来了重大责任。自主智能体的部署要求我们重新承诺伦理原则：信任、透明性、公平性与问责性必须贯穿每一个环节。组织必须主动应对偏见、隐私以及与人类价值对齐等挑战，同时需要借助治理框架与持续学习来安全地扩大这些技术的应用规模。

要充分释放智能体式 AI 的潜力，需要透明的设计、适应性的劳动力策略，以及社会层面对再培训与终身学习的共同承诺。AI 智能体并非只是替代岗位，而是会重塑角色、激发创造力，并开辟新的创业路径。通过坚持以人为中心的设计和稳健的伦理框架，我们可以利用智能体式 AI 重新定义工作、赋能个体，并推动造福所有人的进步。对 AI 智能体的治理与 stewardship（审慎管理），不仅将决定其对行业的影响，也将影响人类进步的更广阔轨迹。

本章要点（Points to remember）

本章需要记住的要点如下：

  • AI 智能体正快速从基于规则的机器人演进为能够独立决策并执行多步骤任务的自主“队友”。
  • 人机协作正转向混合团队模式，智能体增强人类优势而非替代岗位，从而实现更快、更具战略性的决策。
  • 多模态智能体能够实时处理并作用于文本、图像、语音等多种数据类型，支持更丰富、更自然的交互。
  • 垂直领域 AI 智能体基于领域专属数据训练，可提升行业工作流中的准确性、可靠性与合规性。
  • 多智能体系统通过协调专用智能体协作来解决复杂问题，从而实现分布式协作、可扩展性、韧性与适应性。
  • AgentOps 正在成为一门新学科，用于在智能体全生命周期中对自主智能体进行监控、治理与合规保障。
  • 基础设施加速（包括高性能计算与先进数据平台）正在扩展 AI 智能体的能力边界与运行速度。
  • 智能体式 AI 的创新正推动其迈向 AGI、世界模型、情感智能、边缘 AI 和去中心化智能体。
  • AI 智能体对产业影响深远，正推动跨行业的运营效率、经济价值、新商业模式与劳动力转型。
  • 构建信任与伦理治理至关重要，需要透明性、问责性、隐私保护以及与人类价值观对齐，以实现负责任的 AI 采用。
  • 对组织与个人而言，持续学习与适应是应对智能体式 AI 重塑格局的必要条件。

关键术语（Key terms）

本章中的一些关键术语如下：

  • Agentic AI（智能体式 AI） ：被设计为可自主行动、做出决策并独立执行任务的人工智能系统。
  • Vertical AI agent（垂直领域 AI 智能体） ：基于领域专属数据与本体（ontology）训练的 AI 智能体，用于在特定行业中提供专业化、上下文感知的解决方案。
  • AgentOps：用于监控、治理并确保自主 AI 智能体在整个生命周期中合规运行的一套学科与实践方法。
  • AGI（通用人工智能） ：无需专门训练即可跨所有领域执行人类可执行智力任务的 AI 系统。
  • JEPA：一种通过观察和预测世界中的事件来学习常识与因果推理的 AI 架构。
  • RAG（检索增强生成） ：将生成式 AI 模型与实时数据检索结合，以提高准确性与相关性的技术。
  • EHR（电子健康记录） ：用于存储与管理患者健康信息的数字系统，常与医疗 AI 智能体集成。
  • MLOps：用于大规模部署、监控与管理机器学习模型和 AI 智能体的一套实践。
  • Edge AI（边缘 AI） ：直接在边缘设备（如传感器、智能手机）上处理数据并做出决策，而非依赖中心化云基础设施的 AI 系统。
  • CRM（客户关系管理） ：用于管理企业与现有及潜在客户互动的软件系统。
  • ERP（企业资源计划） ：用于管理财务、人力资源、供应链等核心业务流程的一体化软件平台。
  • Vision language model, VLM（视觉语言模型） ：融合视觉与文本数据以实现更丰富理解与交互的 AI 模型。
  • Cooperative inverse reinforcement learning, CIRL（协作式逆向强化学习） ：一种通过协作学习使 AI 智能体目标与人类价值对齐的框架。
  • NIST：美国机构，提供 AI 风险管理与可信系统框架。
  • EU AI Act（欧盟 AI 法案） ：欧盟关于 AI 安全、透明性与问责性的监管立法。
  • DAX Copilot：医疗领域 AI 智能体，可监听临床问诊并将结构化病历草稿写入 EHR 系统。
  • TREWS：AI 驱动的临床决策支持系统，用于医疗场景中的早期预警与工作流监管。

参考文献（References）

avatar
文章
阅读
粉丝