重塑API管理:AI驱动企业制胜之道

37 阅读10分钟

企业AI兴起变革API管理。API成为AI供应链,需从连接性转向战略智能层,加强治理与可观测性,构建AI就绪的API生命周期。

译自:Redefining API Management for the AI-Driven Enterprise

作者:Raghuram Tadipatri

多年来,API管理一直安然地置于企业架构的“连接性”范畴。团队专注于构建、暴露和保护API,以便移动应用程序、合作伙伴生态系统和后端系统能够以可预测的方式交换信息。API网关执行流量规则。开发者门户推动消费。监控工具检查延迟和正常运行时间。

然而,企业AI的兴起——特别是多模态基础模型、智能体系统和检索增强型工作流——彻底改变了API格局。API不再仅仅连接系统;它们提供驱动AI工作所需的燃料、上下文和编排步骤。在这个新兴时代,API管理必须从技术集成层演变为整个组织的战略智能层。

随着公司大规模将AI投入运营,成功越来越不只取决于模型的复杂性,还在于驱动它们的API的智能性、治理和可靠性。新的API平台不仅仅是一个网关。它是用于数据、服务和自主工作流的AI就绪的控制平面

API是新的AI供应链

今天的企业正在构建AI系统,这些系统能够对企业数据进行推理,跨分布式应用程序执行操作,并与用户和合作伙伴进行实时交互。所有这些都依赖于API驱动的对受治理、值得信赖信息的访问。

API是新的AI供应链,因为它们充当基本连接器,使AI系统能够访问其正常运行所需的数据、工具和服务。正如传统供应链运输实物商品一样,AI供应链使用API来传输信息并连接不同的系统,从而实现实时数据访问、安全交换和复杂AI驱动工作流的编排。

考虑一个典型的检索增强生成(RAG)架构。一个基础模型通过一组API检索产品规格,通过另一组API检索客户历史,从第三个API检索策略规则,以及从另一个微服务检索定价逻辑。模型生成准确答案的能力取决于这些API响应的质量和一致性

如果细则策略API添加了新字段,如果定价API变得不稳定,或者如果客户数据端点返回非结构化内容,即使模型本身没有改变,模型准确性也可能下降。

这就是为什么有远见的企业将API视为AI供应链组件,而非技术实用程序。重点从基本可用性扩展到语义可预测性、对敏感内容的严格治理、数据血缘、架构一致性、模型可读性以及以监管为重点的企业知识暴露。

API必须为机器构建,至少要和为人类构建一样多。

在API边缘嵌入智能

传统网关针对高吞吐量请求处理进行了优化。然而,随着AI赋能工作流的激增,组织正在API边缘嵌入轻量级推理,以便在请求到达后端系统之前应用自适应智能。

利用IBM API Connect和新的DataPower Nano Gateway等产品,企业已经部署了AI能力,例如行为访问控制(分析请求模式以发现异常)、针对高并发事务API的欺诈检测、负载增强(例如添加元数据或为模型消费标准化格式)、上下文感知路由(根据用户实时意图选择最佳后端服务)和语义过滤,后者旨在保护不需要的内容传递到模型中。

这种演变反映了可观测性和网络安全领域已经发生的情况:基于规则的管道正在被自适应的、AI增强的通道所取代。边缘智能有助于降低风险、提高准确性,并消除在数十个后端系统之间重复逻辑的需求。

自主和AI原生工作流的治理

治理是AI驱动的API管理与传统实践分歧最大的地方。经典的治理重点领域(例如,身份验证、配额、版本控制、生命周期管理)仍然至关重要。但企业现在面临着全新的风险类别。例如:

  • 自主智能体可以调用此API吗?在什么限制下?
  • 根据规定,API是否暴露了模型被允许消费的数据?
  • 响应会产生有偏见的、有害的或意想不到的模型行为吗?
  • 我们如何审计跨多步任务的模型驱动API消费?

自动化发现和分类可以帮助团队识别敏感API,标记高风险暴露模式,并根据数据类型或监管配置文件自动附加策略。治理不应依赖人工审查;它需要持续的、AI辅助的检查。

智能体AI——可以有意调用API来完成任务的系统——进一步加剧了治理挑战。企业需要定义智能体何时以及如何行动、适用哪些护栏以及它们必须生成哪些审计追踪的治理。治理和策略自动化变得与端点安全一样关键。

AI驱动交互的增强可观测性

传统API可观测性衡量吞吐量、错误率、延迟和配额使用情况。这些仍然很重要,但AI驱动系统引入了全新的遥测层。

企业需要了解API响应如何影响模型的推理,模型或智能体是否按预期顺序调用API,以及API更改是否与模型性能下降相关。除了自主智能体引起的意外流量模式外,它们可能还想检查影响确定性模型输出的API行为漂移。

一些企业使用IBM Instana等工具来统一分布式微服务、数据管道和应用程序组件的追踪。当与新兴的AI可观测性能力结合时,组织不仅可以追踪API调用中发生了什么,还可以追踪为什么发生。这将模型提示、检索到的数据、智能体操作和系统结果之间的点连接起来。

在这个新世界中,可观测性变成了行为分析问题,而不仅仅是一个简单的正常运行时间跟踪功能。

构建AI就绪的API生命周期

从连接性转向智能需要一种新的API开发和管理运营模式。以下是我为构建AI就绪的API生命周期推荐的一些实践:

  • 将API视为机器优先的资产。 设计架构和有效负载,以预期模型和智能体的消费。避免歧义。强制执行严格的语义结构。
  • 自动化分类和治理。 使用AI根据敏感性、行为和使用风险对API进行分类。使用IBM API Connect等工具自动化策略附加。
  • 将智能推向边缘。 将推理驱动的策略——例如异常检测、上下文路由和语义过滤——直接部署在IBM API Connect的IBM DataPower Nano Gateway等网关中。
  • 连接API和AI可观测性。 使用IBM Instana和AI可观测性框架,将API遥测与模型推理追踪合并。
  • 为自主系统构建策略。 定义智能体可以调用哪些API,在什么条件下以及在什么监督下。
  • 跨混合云和多云环境集成。 使用IBM webMethods Hybrid Integration等工具,将API管理、事件流、消息传递和自动化整合到一个治理和运行时框架下。

未来:智能API控制平面

长期发展轨迹清晰:API管理将演变为企业AI的智能控制平面。API将成为模型访问知识、执行推理、跨系统行动和协作的网关。

企业AI的智能控制平面是一个中央协调层,它使用AI和机器学习(ML)来管理、编排和保护AI系统及其在整个组织中运行的基础设施。它充当一个“大脑”或“指挥中心”,自动化复杂的任务,强制执行治理,并提供对整个AI生命周期的统一可见性。

根据我的经验,快速发展的组织几乎总是有强大的API管理、正确的治理结构、坚实的AI平台工程方法和良好架构的混合云基础。AI需要连接性,但仅有连接性是不够的。企业需要的是智能连接,一个不仅暴露API,而且理解、治理和优化AI系统如何与它们交互的平台。

IBM的方法是将这些能力统一到端到端架构中,涵盖API Connect与DataPower Nano Gateway和IBM watsonx——旨在提供可扩展AI采用所需的智能和治理。

拥抱这一点的企业可以更可靠地将AI投入运营。那些不接受的企业则面临脆弱、不受治理、不可预测的AI行为,这些行为永远停留在概念验证阶段的风险。