企业必须学会让 AI “使用”自己

0 阅读50分钟

2c186de7-c643-4b13-a443-f7a5c2eaf1f1.png

过去两年,我们讨论最多的是如何让员工使用 AI、如何给软件增加 AI 助手、如何构建更强的 Agent。

但当 Agent 开始真正承担研发、办公、分析乃至跨系统任务之后,一个更根本的问题正在浮现:

企业本身,是否已经准备好让 AI 使用?

这里的“让 AI 使用企业”,不是让 AI 取代企业,更不是把经营权交给 AI。恰恰相反,它意味着企业必须主动把自己的知识、流程、系统、权限和判断标准,改造成 AI 可以理解和调用的组织能力。

企业的知识是否可以被理解?系统是否可以被调用?权限是否可以安全授权?任务是否可以被执行?结果是否可以被验证?一次失败是否能够沉淀成下一次更可靠的交付?

当这些问题开始成为瓶颈,企业级 AI 的竞争就不再只是模型和 Agent 产品之间的竞争,而开始演变成一场关于企业如何重新设计自己的数字基础设施、工作流程与知识体系的竞争。

AI 越来越强之后,真正需要升级的开始变成企业自己。

从这个角度看,企业级 Agent 的下一阶段,不只是“把 AI 接入企业”,而是把企业逐步重构成一个 AI 可理解、可调用、可执行、可验证、可治理、可持续学习的组织系统


摘要

2026 年,国内头部互联网公司在 AI 产品、组织和基础设施层面都出现了明显的能力收敛与重新分层:字节强化豆包、飞书、TRAE、火山引擎之间的协同;阿里加强千问、钉钉、阿里云与企业 Agent 能力之间的连接;腾讯则通过 WorkBuddy、CodeBuddy、托管 Agent(Managed Agents)等不同产品形态,共享模型、Runtime(运行时)、企业账号、权限、安全与工具体系。

这些变化不应被简单理解为“所有产品最终都会合并成一个超级 Agent”。更值得关注的是:

企业 AI 的竞争单元正在扩大——从单一模型、单个 Agent、单点 AI 功能,扩展到组织级 AI 交付系统。

未来真正决定企业级 Agent 能否进入生产系统的,不只是模型是否足够聪明,而是企业能否建立一套完整的:

模型 + Context(上下文)+ Runtime(运行时)+ 执行 + 评估 + 治理 + 反馈闭环

本文将这套系统称为 组织级 AI 交付系统,并将其中由真实任务驱动、能够持续吸收失败与成功经验的动态机制称为 组织级 AI 交付闭环

全文围绕三个问题展开:第一,为什么企业级 AI 的建设重点正在从“做一个更强的 Agent”转向“改造企业自身”;第二,这套组织级 AI 交付系统应由哪些核心能力组成;第三,不同类型企业应如何建设,并用什么指标判断它是否真正创造了价值。

一、问题提出与产业证据:为什么企业必须开始“让 AI 使用自己”

1.1 Agent 的演进,本质上是从“智能输出”走向“任务交付”

过去几年的 AI 生产力产品,可以观察到四种不断扩张的形态。它们不是严格的线性阶段,也不意味着后一个阶段一定替代前一个阶段,而是 AI 能够承担的责任边界在持续扩大。

形态核心能力人机关系价值衡量方式
对话式 AI / AI 助手回答、总结、内容生成人做事,AI 给建议回答质量、节省时间
编码 Agent修改代码、运行命令、修复问题人给目标,AI 执行工程任务代码合并请求、缺陷修复、代码交付
工作 Agent文件、网页、数据、办公软件、业务系统多步执行人给目标,Agent 完成工作报告、页面、任务结果
组织级 Agent企业 Context(上下文)+ 执行 + Eval(评估)+ 治理 + 学习闭环人负责目标、判断和责任节点完整业务结果、单位交付成本

对话式 AI / AI 助手阶段的基本关系仍然是:

人执行,AI 辅助。

编码 Agent 是一个关键转折点。它开始真正进入软件工程环境:读取代码仓库、理解工程上下文、修改代码、执行命令、运行测试、修复缺陷、提交变更,并根据评审 再次修改。

它的重要意义不只是“程序员效率提高”,而是第一次大规模证明:

LLM 的价值可以从“智能能力”转化为“任务完成能力”。

软件工程之所以率先发生,是因为它天然具备任务闭环:

fig01_coding_to_task_delivery.png

图 1|从编码闭环到任务交付:左侧是软件工程的天然闭环,右侧是 Agent 进入生产系统后的能力链。

它同时拥有清晰产物、自动验证、反馈信号、版本控制、回滚机制和可追踪历史。

随着 Agent 从编码场景扩展到文档、表格、浏览器、调研、数据分析、邮件、日历、OA、CRM、ERP 和内部业务系统,AI 的价值也开始从辅助走向委派和执行。OpenAI 2026 年的企业使用数据同样显示,领先企业与普通企业的差距越来越多地体现在:是否给 Agent 提供企业 Context、工具和可重复工作流,并把更多工作从“辅助”推进到“委派执行”[1]。

AI 的价值也开始从:

“回答一个问题”

转向:

“完成一件工作”。

这时真正困难的问题随之发生变化:AI 是否知道正确的企业上下文;是否拥有权限;是否能跨系统执行;是否能判断完成得对不对;失败后经验是否能够进入下一轮系统。

这些问题已经超出了单个 Agent 产品能够独立解决的范围。

1.2 头部互联网公司的“收敛”,本质上不是入口统一,而是公共能力开始平台化

Agent 早期产品形态和技术路线不确定,因此大型企业内部自然会出现大量 AI 助手、Agent、RAG(检索增强生成)、AI 办公、AI 编码、AI 搜索、工作流、模型平台、MCP(模型上下文协议)、Skill(技能)和知识助手。

探索阶段的重复建设并不一定是坏事,因为企业需要通过赛马验证产品形态。但当 Agent 的基础构成逐渐清晰之后,重复建设的成本开始快速显现:

  • Runtime(运行时)重复;
  • 连接器 重复;
  • 权限体系割裂;
  • Context 被分割;
  • Skill 无法复用;
  • Eval 不互通;
  • 用户入口彼此竞争;
  • 相似 Agent 重复维护;
  • 安全、审计、成本治理重复建设。

因此更准确的变化不是简单的“产品大合并”,而是:

共享能力开始平台化,重复能力开始收敛,场景能力开始重新分层。

三家公司的表现并不相同:

维度字节阿里腾讯
AI 主入口倾向豆包等 AI 产品体系千问 / QwenWorkWorkBuddy 等多入口
企业协同基础飞书钉钉企业微信 / 腾讯文档
编码产品TRAE 等Qoder 等CodeBuddy
云服务 / 模型即服务(MaaS)火山引擎阿里云腾讯云
组织趋势AI 产品与协同能力重新组合工作空间与组织连接增强共享底座、入口并存
更值得借鉴的点缩短模型到真实任务的链路减少重复建设控制面 统一

字节体现的是模型、Agent、协同环境、研发环境和云能力之间的链路正在缩短;阿里体现的是模型、工作空间、组织系统和云执行环境之间越来越难长期割裂;腾讯则提供了一个重要反例:

企业 Agent 的统一,并不等于所有场景必须统一成一个超级 应用。底座统一、入口多样,很可能长期存在。

因此,头部公司的组织变化应该被视为观察样本,而不是本文理论成立的前提。真正稳定的趋势是:企业 AI 所需的公共能力正在逐渐从单点产品中抽离出来,形成共享的 Context(上下文)、Runtime(运行时)、执行、身份、评估与治理能力。

1.3 真正的产业拐点:竞争单元正在从 Agent 产品扩大到组织级生产系统

过去一个 AI 产品的竞争力,大致可以理解为:

模型能力 × 产品体验

未来企业级 Agent 的竞争力更接近:

模型能力 × 企业 Context × 执行能力 × 验证能力 × 治理能力 × 反馈闭环 × 组织覆盖率

即使一个模型非常聪明,如果它不知道公司过去讨论了什么、看不到项目文档、不理解组织角色、不知道数据是否最新、不知道自己有没有权限、调不了业务系统、执行后不能验证、出错后不能形成新的测试和组织知识,那么它仍然更像一个顾问。

真正进入生产系统的 Agent,需要完成:

(相关结构见图 1。)

因此本文的核心判断是:

企业级 AI 的竞争单元,正在从一个模型或一个 Agent,扩大成一套组织级 AI 交付系统。

而企业必须“学会让 AI 使用自己”,本质上就是让组织的知识、系统、流程、权限和判断标准逐步具备 Agent 可用性。


二、理论框架:组织级 AI 交付系统如何运转

2.1 从单个 Agent 到组织级 AI 交付系统

组织级 AI 的目标不是做一个功能更多的聊天机器人,而是让 AI 进入组织真实的生产系统,并形成可执行、可验证、可治理、可持续改进的交付闭环。

基本结构可以表示为:

【图 2 插入位置】组织级 AI 交付系统总览 建议放在“基本结构可以表示为”之后,作为第二章的总架构图。

fig02_org_ai_delivery_system.png

图 2|组织级 AI 交付系统总览:主链路负责把意图转化为可验证业务结果,身份、权限、安全、审计、可观测、成本和治理贯穿全流程。

外围始终存在:

(相关结构见图 2。)

这构成本文所说的 组织级 AI 交付系统。这一拆解并非只是一种理论抽象。OpenAI Frontier 将企业 Agent 平台明确拆解为业务 Context、Agent 执行、评估与优化、安全治理等能力[2];这说明行业前沿的产品形态已经开始从“单个 Agent”转向围绕真实业务运行的一整套系统能力。

2.2 七层底座:企业 AI 的瓶颈已经不再只是模型

过去企业谈 AI 底座,通常首先想到大模型平台。但模型越来越强之后,企业真正缺少的往往不是模型,而是模型外围的生产系统。

企业 AI 底座可以理解为七个能力层:

解决的问题核心能力
AI 基础层用什么模型模型网关、路由、推理、向量表示
Context(上下文)层AI 知道什么身份感知检索、元数据、搜索、领域 Context
Agent Runtime(运行时)AI 怎么规划和运行记忆、工具、Skill(技能)、MCP(模型上下文协议)、沙箱、浏览器、Harness(运行与约束框架)
执行层AI 可以操作什么OA、ERP、CRM、研发平台、业务系统、API、事件
评估层AI 怎么知道做对了测试、规则、模型评审、KPI、人工评审、回归验证
治理与身份层AI 能不能做、谁负责身份与访问管理(IAM)、策略、访问控制(ACL)、审批、审计、数据分级
可观测与经济性层系统是否可运营链路追踪、失败分类体系、成本、延迟、结果投入产出比

因此企业 AI 底座不应只是一套模型平台,而应升级为:

模型 + Context(上下文)+ Runtime(运行时)+ 执行 + 评估 + 治理 + 可观测性

2.3 Context(上下文)层:重点不是“存更多数据”,而是在正确时间提供正确上下文

大型企业最容易犯的错误,是把 Context(上下文)层理解成“把所有 IM、文档、代码和业务数据都拷进一个超级 RAG 数据库”。

这通常会很快遇到数据重复、权限漂移、新鲜度失真、负责人不清楚、来源不可追踪、同一事实存在多个版本、原系统更新后知识库不同步等问题。

因此更合理的 Context(上下文)层 是一个“上下文控制与解析层”:

【图 3 插入位置】Context(上下文)控制与解析层 建议放在“更合理的 Context 层是一个上下文控制与解析层”之后。

fig03_context_control_layer.png

图 3|Context(上下文)控制与解析层:重点不是复制全部数据,而是按身份、权限、新鲜度和可信度,在需要时解析并提供正确 Context。

其核心原则是:

数据尽量留在原系统中,Context 在需要时按需解析与获取。

也就是说,原系统应尽量继续作为权威数据源;Context(上下文)层负责解析、关联、权限校验和按需获取;领域 Context 可以结构化沉淀,但必须保留来源、时间、负责人、访问控制(ACL)和可信等级。

因此 Context 的竞争不是“谁存得最多”,而是:

谁能够在正确的时间,把正确的上下文,以正确权限交给正确的 Agent。

2.4 执行层:企业系统需要进行 Agent 就绪化改造

传统内部系统首先考虑的是“人如何通过界面操作”。Agent 时代,企业系统需要额外回答:Agent 如何读取、如何理解、如何执行、如何声明能力、如何控制权限、如何验证结果、如何回滚、如何审计。

因此企业系统会逐渐补充:

【图 4 插入位置】Agent 就绪化改造与多入口结构 建议放在企业系统“需要逐渐补充哪些 Agent-ready 能力”的讨论之后;图右侧同时说明 Agent、现有界面和工作流/API 会长期并存。

fig04_agent_ready_multi_entry.png

图 4|Agent 就绪化改造与多入口结构:企业系统需要同时具备身份、权限、搜索、工具、事件、幂等、审计和验证等能力,但 Agent 不会替代所有交互入口。

这可以称为 Agent 就绪化改造

真正的企业 Agent 建设,不只是“再做一个聊天框”,而是逐步把企业内部系统改造成:

AI 可理解、可调用、可执行、可验证的数字环境。

但这并不意味着未来所有工作都必须从 Agent 入口发起。更合理的结构是多个入口长期并存:

(相关结构见图 4。)

其中,模糊目标、跨系统、多步骤任务更适合 Agent;高频人工操作和视觉密集型异常探索适合“界面 + Agent”;稳定、高频、确定性的业务流程更适合“工作流 / API / 事件”;高风险、不可逆操作则更适合“Agent 准备 + 人工审批节点 / 策略”。

因此更准确的战略判断是:

Agent 会成为企业软件新增的一等交互与执行层,并承担越来越多跨系统、非确定性和目标驱动型任务。

2.5 评估与反馈闭环:真正产生组织复利的地方

组织级 AI 交付闭环并不是“让模型自动记住所有东西”。真正有效的闭环应该是:

【图 5 插入位置】由 Eval 驱动的组织学习闭环 建议放在“真正有效的闭环应该是”之后。

fig05_eval_learning_loop.png

图 5|由 Eval 驱动的组织学习闭环:真实失败经过归因后转化为 Context、Skill、工作流和回归评估的改进资产。

这里必须特别强调:

反馈闭环 ≠ 把所有用户反馈直接写进 提示词。

如果缺少归因、筛选和回归验证,所谓“持续学习”很容易退化为不断追加 提示词、Context 和规则,最终导致规则互相冲突、系统越来越复杂。

因此真正值得建设的是:

由 Eval 驱动的组织学习闭环

即:

真实失败 → 可复现 案例 → 根因归类 → 有针对性的系统修改 → 回归评估 → 再发布。

例如研发 Agent 修改复杂业务状态机失败,最终发现问题不是模型不会写代码,而是 Agent 不知道状态变化还会影响菜单权限。传统方式往往是人修复缺陷、在群里解释一次,经验继续留在人脑中;组织级 AI 交付闭环则应把这次失败转化为可复现案例,判断为领域 Context 缺失,补充“状态机—菜单权限”关系,增加检查 Skill(技能)或静态规则,并通过回归评估验证后再发布。

最终积累的不是“AI 这次修好了 缺陷”,而是:

组织第一次把一个隐性经验,转化成了可以被未来所有 Agent 和工程师复用的数字资产。

2.6 治理、基于风险的自治与经济性:决定 Agent 能否真正进入生产系统

只要 Agent 开始真正操作企业系统,治理就不再是附加能力。企业必须回答:Agent 是谁、代表谁执行、能访问什么、能做什么操作、哪些操作需要批准、哪些数据不能离开边界、操作失败如何追责、谁能看到执行记录、哪些任务必须保留人类责任节点。

因此企业 Agent 应天然带有:

【图 6 插入位置】治理、基于风险的自治与经济性 建议放在本节治理链路讨论开始处,后文对风险分级与投入产出比的解释均可结合此图阅读。

fig06_governance_risk_economics.png

图 6|治理、基于风险的自治与经济性:生产级 Agent 的自治程度应由任务风险决定,并最终回到单位可验证业务结果成本。

企业也不应该把“自治率越高”当成成熟度越高。真正合理的是 基于风险的自治

在风险允许的范围内最大化自治,而不是无条件最大化自治。

生成周报可以高度自治;修改内部网页可以自动执行 + 评审;修改生产配置应强制 人工审批节点;大额支付和关键审批可以由 Agent 准备材料,但不应替代责任审批。

因此,比“自动完成率”更成熟的指标是 合理自治率:Agent 在适合自治的任务上是否足够自主,在需要人工责任的任务上是否能正确停下来。

与此同时,企业 AI 最终必须回到经济学。企业不会因为 Agent 很先进就长期投入,最终要回答的是:

一个完整、正确、可验收的业务结果,到底花了多少钱?

核心指标应逐渐从 Token(令牌)、调用次数和 Agent 数量,转向 单位可验证业务结果成本。可以粗略理解为:

(相关结构见图 6。)

其中最容易被低估的是人工评审成本、失败重试成本、错误传播成本、生产事故成本、Context 维护成本和 Eval 维护成本。

因此 Agent 的真正价值不是“跑得多”,而是:

单位可验证业务结果的总成本持续下降。

2.7 真正的最小建设单元:不是 Agent,而是“可验证任务闭环”

很多企业做 Agent 时,最容易把建设单位定义成“一个 Agent”“一个聊天入口”或“一个平台模块”。这会造成一种典型错觉:Agent 数量越来越多、工具越来越多、平台能力越来越全,但真正能够稳定交付的业务结果并没有同步增加。

更有效的建设单位应该是:

一个边界清晰、可以执行、可以验证、可以追责、失败后可以改进的真实任务闭环。

一个生产级任务至少要把六类关键要素定义清楚。它们共同描述这个任务要做什么、依赖什么、如何执行、如何验证、风险边界在哪里,以及失败之后如何改进。

任务闭环要素必须回答的问题应沉淀的产物
目标与验收标准输入是什么?输出是什么?什么叫完成?什么情况下必须停止?任务说明、成功标准、停止条件、示例
Context 要求需要哪些信息?来自哪里?谁负责?多久算过期?允许谁访问?Context 清单、来源、负责人、新鲜度、权限、引用关系
执行约束Agent 可以调用什么?前置条件是什么?有什么副作用?失败如何重试和回滚?工具定义、参数模式、前置条件、幂等性、超时、回滚策略
验证机制如何证明结果正确?哪些可以自动验证?哪些必须人工判断?规则、测试、业务断言、Eval、人工验收点
风险边界任务风险等级多高?影响范围多大?哪些动作必须审批?风险等级、预算、权限范围、审批策略、熔断条件
反馈与改进机制失败后归到哪一类?谁负责修?如何进入回归评估?失败分类、责任人、回归案例、版本变更记录

这六类要素比“提示词写得好不好”重要得多。因为一个 Agent 真正进入企业生产系统后,失败很少只来自模型本身,更多来自目标定义不清、Context 不完整、工具语义不清、验证能力缺失、权限不合理或反馈没有沉淀

例如,一个“自动处理客户退款异常”的 Agent,不应只拿到一句“帮我处理退款异常”。它至少需要知道:退款异常的分类规则、订单与支付信息来自哪些系统、哪些状态允许自动修改、退款金额达到什么阈值必须审批、修改后如何验证账务一致、失败后是否允许重试、什么情况下必须转人工。

因此,企业在选择第一个 Agent 场景时,不应优先选择“最炫”的任务,而应优先选择同时满足以下条件的任务:

  • 业务价值足够高,值得投入;
  • 发生频率足够高,能够形成数据和学习闭环;
  • 输入输出相对清晰;
  • 结果可验证,而不是完全依赖主观判断;
  • 执行动作可回滚,或影响范围可控;
  • 领域负责人明确,能够持续提供反馈。

先找到一个可验证任务闭环,再围绕它长出 Context、工具、Eval 和治理能力。平台能力应从真实闭环中抽象出来,而不是反过来先造一个“大而全平台”,再寻找它能解决什么问题。

2.8 Agent 就绪化改造:系统不只是“提供 API”,而要提供可理解、可执行、可验证的接口面

“把系统开放一个 API”并不等于这个系统已经适合 Agent 使用。传统 API 通常默认调用方是熟悉业务语义的工程师;Agent 则需要系统把更多隐含规则显式化。

一个真正 Agent-ready(适合 Agent 使用)的业务系统,至少要提供四个接口面:

接口面目标典型能力
可读面让 Agent 知道“现在是什么状态”查询、搜索、结构化数据、元数据、业务对象关系、来源与时间
可执行面让 Agent 知道“可以做什么”工具、API、参数模式、前置条件、权限、限额、幂等性
可验证面让 Agent 知道“做完后怎么证明成功”状态查询、业务断言、测试接口、对账、结果校验
可治理面让企业知道“谁做了什么、为什么允许做”身份、授权、审批、审计、策略、限流、熔断、回滚

其中最容易被忽略的是可验证面。很多内部系统只暴露“执行接口”,却没有给出稳定的“结果断言”。Agent 因此能发起操作,却无法可靠判断业务状态是否已经达到目标。

每一个高风险工具都应该具备一份最小的工具规范

【图 7 插入位置】从 Agent 到任务闭环:生产级落地要素 建议放在“每一个高风险工具都应该具备一份最小工具规范”之后;该图同时汇总 2.7~2.9 的任务闭环六要素、工具规范与最小执行 Trace。

fig07_production_task_loop.png

图 7|生产级落地要素:Agent 生产化的最小单位不是一个聊天入口,而是一套可定义、可执行、可验证、可追责、可持续改进的任务闭环。

这里有一个非常重要的工程原则:

一个工具不应该只告诉 Agent“你能做什么”,还必须告诉它“做完之后如何知道成功、失败后如何恢复、谁为这次动作负责”。

这也意味着,企业不能把“已经接入 MCP(模型上下文协议)”等同于“已经完成 Agent 就绪化”。MCP 解决了资源与工具如何以统一协议暴露给 Agent 的重要问题,但并不会自动补齐企业业务动作所需的语义、前置条件、副作用、幂等性、回滚、验证、风险等级和责任边界。协议标准化只是连接层,生产级工具工程仍然必须由企业自己完成。

同理,Context 也应该从“内容集合”升级成“有质量约束的 Context 质量规范”。对于关键 Context,至少记录:来源系统、业务负责人、数据时间、更新时间、新鲜度要求、权限标签、可信等级、引用关系和失效策略。

当企业开始这样改造内部系统时,“企业让 AI 使用自己”才从口号变成了真正的系统工程。

2.9 Eval、可观测与失败归因:没有这三件事,就不存在真正的持续学习

Agent 系统最大的工程风险之一,是团队只看到最终回答,却看不到一次任务到底经历了什么。没有可观测,就无法归因;没有归因,就无法决定到底应该改模型、改 Context、改工具还是改流程;没有稳定 Eval,就无法知道修改之后到底变好还是变坏。

2.9.1 评估应该是“分层验证”,而不是只依赖大模型打分

Anthropic 在 Agent Eval 的实践中强调,Agent 因为多轮、工具调用和状态变化而比普通模型更难评估,真正有效的评估通常需要组合多种方法,而且价值会随着系统生命周期持续累积[3]。

企业可以建立一套由低到高的评估金字塔:

层级验证方式适合验证什么原则
L0结构与静态校验格式、字段、数据结构(Schema)、必填项成本最低,应尽量前置
L1确定性规则 / 测试金额、状态、代码测试、权限、业务约束能确定验证的不要交给模型判断
L2沙箱 / 回放 / 仿真多步骤流程、状态变化、工具调用在真实副作用前尽可能验证
L3LLM-as-a-Judge(大模型评审)语义完整性、表达质量、开放性判断适合作为补充,不应成为高风险动作唯一依据
L4人工验收责任判断、例外场景、高风险决策人只进入真正需要判断的位置
L5业务结果转化、回款、缺陷率、交付结果、用户行为最终价值必须回到业务结果

核心原则是:

确定性问题尽量确定性验证;语义问题再使用模型评估;责任问题保留人类判断;最终以真实业务结果校验整个系统。

2.9.2 一次任务至少要留下“可重放”的执行轨迹

生产级 Agent 的一次任务,至少应记录:

(相关结构见图 7。)

这套轨迹的意义不是“为了日志而日志”,而是让失败能够被重放、聚类和回归验证。Microsoft Agent 365 把 Agent 资产登记(Registry)、可观测(Observability)、治理(Governance)和安全(Security)作为规模化管理的核心能力,本质上也是因为 Agent 数量一旦扩大,没有统一身份、资产登记和行为追踪,企业很快就会进入不可治理状态[4]。

2.9.3 失败分类必须直接指向“应该改哪里”

建议企业建立统一失败分类,而不是把所有失败都归为“模型效果不好”。

失败类型典型表现首要修复对象
目标失败任务理解偏了、成功标准不清任务定义 / 验收标准
Context 缺失不知道关键规则、历史决策或关联信息Context
Context 过期 / 冲突使用旧规则、多个来源互相矛盾Context 治理 / 来源优先级
推理 / 规划失败信息足够,但步骤选择错误模型 / Harness / Skill
工具失败API 错误、参数不清、超时、不可重试工具规范 / 系统接口
权限 / 策略失败权限过小无法完成,或过大产生风险身份 / 策略 / 风险边界
验证失败做完了但无法确认是否正确Eval / 可验证面
环境失败浏览器、沙箱、网络、依赖不稳定Runtime / 基础设施
人机协作失败需要人工时没有停下,或频繁无效打断审批策略 / 交互设计

OpenAI 在 Harness Engineering 的实践中提出“人负责引导,Agent 负责执行”,并把 Agent 的失败视为环境中缺少工具、护栏、文档或验证机制的信号,再将这些缺口写回工程环境[5]。这与本文强调的“失败不能只修一次,而要转化成系统资产”是一致的。

当一个失败能够被归类、复现、修复并加入回归集时,它才真正从一次事故变成了组织资产。


三、组织设计与建设路径:不同企业应该做什么、不做什么

3.1 总原则:统一控制面 + 领域智能分布式维护

无论企业规模如何,只要开始进入组织级 Agent 建设,一个稳定的组织原则都会逐渐显现:

公共控制能力集中建设,领域智能由业务长期维护。

更准确地说,是:

统一控制面 + 领域智能分布式维护

强集中能力通常包括:

  • 身份;
  • 权限;
  • 审计;
  • 模型网关;
  • 成本控制;
  • 安全;
  • Runtime(运行时)基础能力;
  • 沙箱;
  • 可观测性;
  • 评估框架;
  • Context 协议和治理标准。

联邦式分布能力通常包括:

  • 领域 Context;
  • 领域 Skill;
  • 工作流;
  • 评估案例;
  • 验收标准;
  • 业务 Agent;
  • 领域数据语义。

可以把这个边界理解成:

中央团队负责修高速公路、交通规则和收费系统;业务团队决定车装什么、开向哪里、什么叫到达目的地。

在组织职责上,建议把“平台能力”和“业务智能”的责任边界进一步明确:

角色核心责任不应承担的责任
AI / Agent 平台团队Runtime、身份、权限、工具注册、可观测、Eval 框架、成本与治理替每个业务部门定义业务规则
领域业务团队领域 Context、Skill、任务定义、验收标准、评估案例自己重复建设通用 Runtime 和权限体系
业务系统负责人提供稳定的可读、可执行、可验证接口,维护工具规范把业务接口语义完全交给 Agent 猜测
安全 / 合规团队风险等级、数据边界、审批策略、审计要求对所有低风险任务逐条人工审批
Agent / 任务负责人对任务成功率、成本、风险、版本和退役负责只负责“提示词效果”而不负责业务结果

特别重要的一点是:每一个进入生产环境的 Agent 或任务闭环都必须有明确负责人。没有负责人,就不会有人长期维护 Context 新鲜度、Eval、成本、权限和失败回归。

3.2 建设顺序:不要先造“大平台”,先跑通一个黄金闭环

很多企业的典型路径是:先成立平台团队,建设模型网关、知识库、Agent 编排、MCP、工作流、低代码、监控,然后半年之后才开始寻找高价值场景。这个顺序风险很高,因为平台会在缺少真实任务压力的情况下抽象,最终很容易出现“能力很多、闭环很少”。

更推荐一条 0 → 1 → 10 → 100 的演进路径。

阶段核心目标主要建设内容进入下一阶段的退出条件
0:任务盘点找到值得自动化的任务,而不是先找 Agent 功能任务清单、价值/频率/风险/可验证性评估、现状成本基线选出 1~3 个高价值且可验证的候选任务
1:黄金闭环跑通一个完整、可观测、可验证的真实任务任务闭环六要素、最小 Context、必要工具、Eval、人工审批、全链路日志能稳定重复完成任务,失败可归因,可计算总成本
10:领域复制在同一领域复制到一组相似任务抽取共用 Context、Skill、工具、评估集、风险策略多个任务复用公共能力,新增任务成本显著下降
100:组织平台化把已经被反复验证的共性能力平台化Agent 注册、统一身份、工具目录、Context 治理、观测、成本、生命周期治理平台不再靠人工推动使用,而是业务可自助接入并受统一治理

这条路径背后有三个顺序原则:

先闭环,后平台;先可观测,后扩大自治;先验证正确,再优化速度与成本。

在“1”的阶段,企业甚至可以接受很多地方仍然由人工审批。目标不是一开始就做到无人化,而是先建立一个可重复执行、可验证、可归因的闭环。如果连这一点都做不到,自动化程度越高,风险只会越大。

到了“10”的阶段,才真正适合抽象公共能力。例如当十个任务都需要同一套员工身份、客户 Context、订单查询、审批和 Eval 时,这些能力才有充分证据应该成为平台公共能力。

到了“100”的阶段,平台团队的价值也不再是“帮业务写 Agent”,而是让业务可以在统一规则下自助构建:有可复用的 Context、工具、Skill、策略、Eval 和观测能力,并且所有 Agent 都可以统一登记、授权、监控、追踪和退役。

成熟的 Agent 平台,不是从架构图设计出来的,而是从大量真实任务闭环中“长出来”的。

3.3 中小企业:平台能力可以采购,核心工作流与组织资产必须自己掌握

如果一家中小企业已经大量使用飞书 / 钉钉、SaaS CRM、SaaS ERP、GitHub / GitLab、外部模型和云服务,那么最重要的原则不是自己再造一套企业 Agent 平台,而是:

平台可以买,工作流要掌握,核心资产要可迁移。

即:

底座尽量买,流程和业务知识自己掌握,并确保核心 AI 资产能够迁移。

真正应该自己掌握的资产包括:领域知识、工作流、Skill(技能)、评估案例、验收标准、业务语义和历史反馈。

因为模型可以换,Agent Runtime(运行时)可以换,办公套件也可能换,但组织自己积累的业务知识和验证资产不能被平台锁死。

中小企业应重点投入:打通企业数据与系统、找到高价值工作流、建设领域 Context、建立结果验证机制、把业务经验沉淀成 Skill(技能)和 Eval(评估),并保持核心组织 AI 资产可迁移。

通常不建议投入:自研基础模型、自研 IM、自研通用 Agent Runtime(运行时)、自研大量基础连接器,以及自建大而全、长期维护成本极高的通用 AI 平台。

在组织上,几百到几千人的公司通常不需要同时存在 AI 实验室、AI 基础设施部、Agent 平台部、AI 办公部、AI 知识部。更合理的是一个小型 AI 生产力 / 自动化小组,负责平台选型、连接器、权限、安全、Agent 模板、评估框架、可观测、最佳实践和高价值工作流孵化;具体业务领域的领域 Context、Skill(技能)、工作流、评估案例和验收标准,则由业务团队长期维护。

3.4 大型企业:把几十年的内部 IT 系统升级成 AI 可用的数字环境

大型互联网公司、央国企和大型传统企业最大的不同是:企业自己的 IT 系统本身就是核心资产。它们通常拥有 IM、OA、财务、HR、审批、文档、知识、数据平台、研发平台和大量垂直业务系统。

此时问题不只是“应该采购哪个 Agent”,而是:

如何把几十年的内部 IT 系统、组织知识和权限体系,升级成 AI 可理解、可调用、可验证的组织数字环境。

推荐组织结构是:

【图 8 插入位置】大型企业的组织级 Agent 平台结构 建议放在“推荐组织结构是”之后。

fig08_enterprise_agent_platform.png

图 8|大型企业的组织级 Agent 平台结构:公共控制能力集中建设,领域 Context、Skill、工作流和验收标准由业务团队长期维护。

这里最大的组织风险有两个:一是中央平台团队包办所有 Agent,最终平台越来越重、不了解领域、交付速度变慢、业务不愿使用;二是各业务团队各自造底座,最终 Runtime(运行时)重复、权限割裂、Context 不互通、安全无法治理、Eval 标准失控。

成熟组织设计的关键,不是选择“全中央化”或“全分散化”,而是在二者之间建立稳定边界。

3.5 高监管行业:强化治理,而不是盲目追求无人化

央国企、金融等行业的最大差异通常不是模型,而是安全、权限、审计、数据分级、合规、关键操作审批和责任链条。

因此它们更适合:

(高监管行业的治理链路将在图 9中与研发型公司的软件交付闭环统一对照。)

这类企业不应该把 Agent 理解为“尽可能无人化”,更合理的是:

把人的参与从每一步机械操作,提升到关键判断、授权和责任节点。

这也是基于风险的自治 的典型落地。

3.6 研发型公司:软件工程最容易率先形成完整闭环

研发型互联网企业有一个特殊优势:软件工程天然拥有结构化上下文、明确产物、自动验证、版本管理和线上反馈。

因此,编码 Agent 不应该只被理解成 IDE 里的聊天机器人,更长远的目标应该是 软件交付 Agent。OpenAI 2026 年公开的 Harness Engineering 实践已经展示出类似方向:人更多负责意图、验收和环境设计,Agent 则承担从复现问题、修改、验证到提交变更的执行链路[5]。

更长远的目标应该是:

从需求理解、代码修改、测试验证、发布,到生产反馈的端到端软件交付 Agent。

它的基本闭环可以是:

【图 9 插入位置】高监管行业与研发型公司的两种闭环 建议放在 3.6“研发型公司”中软件交付闭环介绍之后,用于与上一节高监管行业形成对照。

fig09_regulated_vs_rnd_loops.png

图 9|两种典型闭环:高监管行业强调责任链、审批与审计;研发型公司天然拥有代码、测试、部署和监控,因此更容易率先形成可验证闭环。

通用企业 Context 并不足以支持复杂软件工程。研发 Agent 还需要仓库结构图、代码索引、AST、LSP、任务单、架构、CI、构建、测试、发布、Runtime(运行时)、可观测性、故障信息、领域知识、历史变更和评审反馈。

因此研发领域正好体现了“统一控制面 + 领域智能分布式维护”的典型模式:通用 Runtime(运行时)、身份、治理与评估框架可以共享,而研发 Context、研发 Skill(技能)和研发评估则必须垂直深化。

3.7 不要给“企业 AI 成熟度”打一个总分,而要给具体任务评估就绪度

“我们公司 Agent 做到第几级”这类问题很容易变成空泛成熟度模型。更可执行的方法是:对具体任务评估它已经具备多少 Agent 就绪能力。

可以把一个任务的 Agent 就绪度分成六级:

等级任务能力判断标准
L0 人工任务完全依赖人理解和执行规则、数据、动作大量存在于人脑中
L1 可理解Agent 能获得关键 Context来源清晰、权限正确、关键信息可检索
L2 可执行Agent 能通过受控工具完成动作工具规范完整、身份和权限明确
L3 可验证系统能自动或半自动证明结果正确有业务断言、测试、Eval 和验收标准
L4 可自治在限定风险范围内可端到端完成异常能停下、审批点合理、可回滚
L5 可学习生产失败能稳定回流并改进系统失败分类、回归集、版本化改进闭环完整

这个模型的重点不是追求所有任务都做到 L5。对于高风险审批,L3 或 L4 可能就是合理终点;对于低风险、高频、可回滚任务,则可以持续提高自治程度。

因此,企业 Agent 建设的真实进度不应该是“上线了多少个 Agent”,而应该是:

有多少高价值任务从 L0/L1 推进到了 L3 以上,并且单位可验证结果成本持续下降。


四、衡量与长期竞争:企业 AI 真正应该积累什么

4.1 衡量标准:从“AI 做了多少”转向“交付了多少正确结果”

过去研发效能重点关注 交付周期、发布频率、缺陷数量和 吞吐量。这些指标仍然重要,但不足以判断 Agent 是否真正创造价值。

组织级 Agent 更需要关注:

指标含义
端到端任务成功率Agent 是否最终完成了真实任务
可验证成功率通过自动验证或人工验收的真实成功率
合理自治率应该自主的任务是否自主,应该停下的任务是否正确停下
单任务人工介入次数每个任务需要人介入多少次
首次验收通过率第一次交付是否就被接受
获得可验证结果的时间从任务开始到验证完成的总时间
单位可验证结果成本单个可验证业务结果总成本
Context 缺失率失败是否来自上下文缺失
工具 / 权限失败率是否因为工具或权限失败
回归失败率一次改进是否破坏其他能力
复用率Context / Skill / 工作流 / Eval 的复用率
人工评审 成本人工验收和判断成本

其中最重要的总指标仍然是:

单位可验证业务结果成本。

它迫使企业同时考虑成功率、验证成本、人工评审、失败成本和风险,而不是只追求模型调用量或自动化率。

为了避免指标过多,可以把企业 Agent 指标组织成一棵“结果指标树”:

【图 10 插入位置】衡量、软件形态与长期组织 AI 资产 建议放在 4.1“结果指标树”之后,作为第四章总览;后续 4.3、4.4 可直接引用本图,不必重复插图。

fig10_metrics_software_ai_assets.png

图 10|衡量、软件形态与长期组织 AI 资产:从业务结果指标出发,连接企业软件的多入口形态,并最终沉淀为 Context、工作流、评估与反馈等长期资产。

其中,“消息数、Token 数、Agent 数量、工具数量、日活”都只能作为过程指标,不能直接证明业务价值。一个 Agent 每天调用一万次,如果成功率低、人工评审很重、失败无法沉淀,反而可能只是把成本和噪音规模化。

4.2 三场长期竞争:Context、执行能力与反馈闭环

未来企业 Agent 最关键的竞争,大概率集中在三个方向。

第一,Context 竞争。 谁能够更完整、更准确、更实时、更安全地理解组织。核心包括企业知识、人员、项目、历史决策、文档、代码、业务数据、权限、新鲜度和可信度。Context 的关键不只是“更多”,而是:

正确、及时、带权限、可追溯。

第二,执行能力竞争。 谁能够真正调用更多系统、完成更多高价值工作,并且能够安全回滚。包括 API、MCP(模型上下文协议)、浏览器、计算机操作、沙箱、工作流、企业工具、事件、审批和回滚。真正决定 Agent 能否从顾问变成交付者的,是执行能力。

第三,反馈闭环竞争。 谁能够把真实工作中的成功与失败持续转化成组织 AI 资产。长期壁垒可能不是某个 提示词,而是组织是否拥有高质量、可治理、可回归验证的学习闭环。

这三场竞争可以进一步概括为:

理解组织、调用组织、学习组织。

4.3 企业软件将从“只服务人”转向“同时服务人和 Agent”

过去企业软件主要是:

(相关结构见图 10。)

未来更合理的结构不是简单替换成“人 → Agent → 所有系统”,而是形成多个并行入口:

(相关结构见图 10。)

传统企业软件不会消失,但角色会发生变化:IM 不再只是聊天工具,也是组织 Context;文档不再只是给人看的页面,也是可解析知识资产;OA 不再只是表单系统,也是操作与审批 API;GitLab 不只是开发平台,也是研发 Agent 的执行环境;BI 不只是数据看板,也是可验证业务指标来源;ERP / CRM 不只是业务系统,也是 Agent 的受控执行节点。

因此传统企业软件会越来越具备双重属性:

既服务于人,也服务于 Agent。

4.4 真正值得企业长期持有的,不是模型,而是组织 AI 资产

随着基础模型和通用 Runtime(运行时)持续演进,企业真正能够形成长期复利的,通常不是某个模型版本或某段 提示词,而是围绕真实业务积累下来的组织 AI 资产:

(相关结构见图 10。)

具体包括:

  • 领域知识;
  • 业务语义;
  • 工作流;
  • Skill;
  • 评估案例;
  • 验收标准;
  • 历史反馈;
  • 权限 / 策略 规则;
  • 失败分类体系;
  • 经过验证的 Agent Harness(运行与约束框架) 与执行模式。

这些资产的共同特点是:它们直接来自企业自身长期运行中形成的业务经验,并且能够在不同模型、不同 Agent 产品和不同技术底座之间持续复用。

这也是为什么中小企业要强调核心资产保持可迁移,大型企业要强调领域智能分布式维护:真正难以复制的,不是通用 Agent 能力,而是组织如何把自身经验变成机器可用、可验证、可迭代的数字资产。

4.5 Agent 时代会出现新的技术债:不是代码债,而是“组织可用性债务”

当 Agent 深入企业之后,会出现一类过去不明显、但会直接限制 AI 效果的新技术债。

技术债典型症状长期后果偿还方式
Context 债文档失效、来源冲突、关键经验只在人脑里Agent 反复犯“看似低级”的业务错误明确来源、负责人、新鲜度、结构化关系与淘汰机制
工具债API 语义模糊、无幂等、无回滚、无成功断言Agent 能调用但不敢自治补齐工具规范、验证面和补偿机制
Eval 债只有线上体感,没有回归集每次优化都可能破坏旧能力从真实失败持续建设评估集
权限债权限只能按“人 / 应用”粗粒度配置要么 Agent 做不了事,要么权限过大建立 Agent 身份、任务级授权和临时凭证
工作流债流程大量依赖口头协调、隐式规则和人工补洞Agent 无法形成稳定闭环显式化状态、责任、异常分支和验收标准
可观测债只看到最终输出,看不到过程失败无法归因,成本无法优化建立任务级链路追踪(Trace)、版本、成本、Context 和工具调用记录

这意味着未来企业做 AI,不只是“建设新能力”,还要持续偿还这些历史债务。很多所谓“模型效果问题”,本质上是企业数字系统本来就存在大量隐性、不可验证和不可追踪的结构,只是过去由人用经验补齐了。

Agent 像一面镜子:它会把企业原本被人类经验掩盖的流程债、知识债和系统债暴露出来。

4.6 把组织 AI 资产做成可治理的“资产台账”,而不是散落在提示词和项目代码里

如果企业认同 Context、Skill、工具、Eval、策略和反馈会成为长期资产,那么它们就不应该只散落在个人提示词、代码仓库和各个 Agent 配置中。

建议建立统一的组织 AI 资产台账。每一项核心资产至少记录:

字段说明
资产类型Context 源、Skill、工具、工作流、Eval、策略、Agent
业务域它服务哪个业务领域和任务
负责人谁对准确性、成本和生命周期负责
来源与依赖来自哪些系统,依赖哪些工具或数据
版本当前版本、变更记录、兼容性
质量指标成功率、使用率、命中率、回归结果
权限与风险数据级别、可访问角色、风险等级
最近验证时间上次被确认仍然有效的时间
使用关系哪些 Agent / 工作流正在使用它
退役条件什么情况下需要下线或替换

这样做的价值是:当底层模型更换、Agent 平台迁移、业务规则变化或出现生产事故时,企业能够知道“哪些组织智能资产会受到影响”,而不是靠人肉搜索提示词和代码。

随着 Agent 数量扩大,企业未来很可能像今天管理服务、API、数据资产一样管理 Agent 和相关 AI 资产。Microsoft 已经把 Agent 资产登记、身份、观测和治理放到统一控制面中,并在自身内部用于管理大规模 Agent 资产[4]。这说明“Agent 资产治理”会从平台附属能力逐渐变成企业 IT 的标准职责。


五、边界条件与结论:不要把趋势推演成新的“超级 Agent 神话”

5.1 四个需要警惕的过度推演

第一,不要把头部公司的组织调整当成理论成立的前提。

头部公司的组织变化只能作为观察样本。真正支撑本文的,是更底层的工程逻辑:模型越来越强后,企业 AI 的瓶颈自然迁移到 Context(上下文)、执行、评估、治理和组织学习。因此即使未来某一家公司的组织结构再次变化,也不影响这个更底层的判断。

第二,不要认为最后一定只有一个超级 Agent 入口。

底层能力可以统一,但入口长期可能并存:工作 Agent、编码 Agent、专业业务 Agent、传统界面、工作流和 API。统一的是控制面,而不一定是所有产品入口。

第三,不要认为“更多 Context = 更聪明”。

Context 的本质不是堆数据,而是在当前任务中提供最相关、最新、可信、权限正确的组织信息。企业 AI 很可能从“知识库建设”进入“Context 工程”阶段。

第四,不要把自动化率当成唯一目标。

企业最终要优化的不是 AI 做了多少事情,而是:

在可接受风险下,以更低总成本交付更多正确结果。

因此必须同时优化成功率、成本、风险、人工评审成本和学习效率。

5.2 最终战略判断:企业 AI 已经开始从“产品探索”进入“组织生产系统建设”

可以把当前趋势总结为:

企业级 AI 正从 Agent 产品探索期,进入组织级 AI 生产系统建设期。

头部公司的组织调整只是表象。更底层的变化是:

随着模型能力逐渐商品化,企业 AI 的瓶颈正在迁移到组织上下文、执行接口、验证体系、权限治理、成本运营和持续学习机制。

因此,无论未来产品入口最终是否统一,企业 AI 架构都会越来越需要一套共同能力:

(相关结构见图 10。)

不同类型企业的建设重点可以归纳为:

企业类型推荐策略核心建设重点避免
中小公司平台能力可以采购,工作流要掌握,核心资产要可迁移工作流、领域 Context、Eval(评估)、连接器自研模型、IM、通用 Runtime(运行时)、大而全平台
大型互联网公司统一控制面 + 领域智能分布式维护Context、Runtime(运行时)、Eval(评估)、身份、治理、可观测性各业务重复造 Agent 底座
央国企 / 金融Agent 平台 + 强治理身份与访问管理(IAM)、策略、审计、人工审批节点、基于风险的自治盲目追求无人化
研发型软件公司强化研发交付闭环代码仓库、CI、测试、部署、监控、故障、Eval(评估)把 AI 编码只当 IDE 插件

企业最终不是在建设一个 AI 助手,而是在建设:

一套能够持续吸收组织经验、持续降低交付摩擦、持续提高任务成功率,并且在风险边界内不断扩大 AI 自治范围的生产系统。

5.3 给企业真正开始建设时的七个问题

如果一家公司准备把某个 Agent 从演示推进到生产环境,在讨论模型、框架和平台之前,建议先回答下面七个问题:

问题如果回答不清,会发生什么
1. 我们要让 AI 完成的具体业务任务是什么?最终变成泛化助手,无法衡量价值
2. 什么结果才算真正完成?Agent 看似“做了很多”,但无法验收
3. 完成任务需要哪些 Context,谁对它们负责?关键知识继续隐藏在人脑和聊天记录中
4. Agent 可以操作哪些系统,工具是否可回滚、可验证?只能给建议,或执行风险不可控
5. 哪些结果可以自动验证,哪些必须人工判断?人工评审成本失控,或高风险结果无人兜底
6. 任务允许多大自治范围,什么情况下必须停下来?要么权限过小没有价值,要么越权产生事故
7. 一次失败如何变成下一次不会再犯的系统资产?企业永远停留在“人工修 Prompt”的循环中

如果这七个问题能够被清晰回答,一家公司实际上已经完成了 Agent 生产化最困难的一半:把隐性的组织经验和责任边界显式化。

5.4 回到文章开头:为什么说“企业必须学会让 AI 使用自己”

如果把全文重新压缩成一句话,它不是“企业应该部署更多 Agent”,也不是“未来所有软件都会被 Agent 取代”。

真正的结论是:

当 AI 从提供建议走向承担任务,企业自身就必须从“给人使用的软件与流程集合”,逐步变成一个 AI 可理解、可调用、可执行、可验证、可治理、可持续学习的组织系统。

这就是“企业必须学会让 AI 使用自己”的真正含义。


参考资料与行业实践旁证

[1] OpenAI, Enterprise Signals: What frontier firms are doing differently, 2026-08-12。重点说明领先企业正在从辅助走向执行与委派,并更深地使用企业 Context、工具和可重复工作流。

[2] OpenAI, Frontier — Enterprise platform for AI agents, 2026。其企业平台核心能力包括业务上下文(Business Context)、Agent 执行(Agent Execution)、评估与优化(Evaluation & Optimization)、安全与治理(Security & Governance)。

[3] Anthropic, Demystifying evals for AI agents, 2026-01-09。强调 Agent Eval 需要组合多种评估方法,并随着 Agent 生命周期持续产生复利价值。

[4] Microsoft, Agent 365: The Control Plane for Agents;以及 Microsoft 内部 Agent 365 实践,2026。重点包括 Agent 资产登记(Registry)、身份与访问控制、可观测、治理、安全和规模化 Agent 生命周期管理。

[5] OpenAI, Harness engineering: leveraging Codex in an agent-first world, 2026-02-11。强调“人负责引导,Agent 负责执行”,并通过测试、验证、反馈与环境改造提高端到端自治能力。