Ramp Inspect:闭环AI代理重塑软件未来

84 阅读6分钟

Ramp 的 Inspect 证明闭环 AI 代理是软件开发的未来。它通过自动化代码生成、运行和验证,大幅提升开发效率和创新探索能力,将代理转变为自主工程伙伴。

译自:Ramp’s Inspect shows closed-loop AI agents are software’s future

作者:Arjun Iyer

Ramp 工程团队最近发布的后台编码代理 Inspect 是一个明确的证明,表明闭环代理系统是软件开发的未来。它将编码代理转变为真正自主的工程伙伴,并且正在从根本上改变代理交付软件的方式。

无论团队是使用像 Ramp 这样的定制云开发环境(CDE)还是其他方法,信号都很明确:团队需要解决这种自主性问题,否则就有落后的风险。现代工程师需要能够访问的编码代理,这些代理不仅能生成代码,还能运行代码、验证输出,并迭代解决方案直到其正常工作。

这种区别代表着一个根本性的转变。行业一直专注于优化代理的“大脑”,解决上下文窗口和推理问题。Ramp 的成功验证了“身体”也同样重要。

与运行时环境交互的能力将代码从假设转变为解决方案。这种验证循环将真正自主的编码代理与那些依赖人类验证其工作的代理区分开来。

开环瓶颈

现代编码代理令人印象深刻。它们可以规划复杂的重构并生成数千行代码。然而,这些代理通常在开环中运行。它们依赖开发人员充当运行时环境。代理提出解决方案。人类必须编译、测试和解释错误消息,或将其反馈给代理。验证的认知负荷仍然落在用户身上。

这种工作流限制了开发人员的效率。如果验证过程缓慢,代理的速度就无关紧要。我们已经将代码生成优化到近乎即时,但验证仍然受限于人类带宽和线性 CI 流水线。

Inspect 证明,关闭该循环可以解锁一种新的效率类别。通过让代理访问用于运行构建和测试的沙箱,代理从文本生成器转变为任务完成器。它交付的是经过验证的解决方案,而不是草稿。

其影响是可衡量的。Ramp 报告了内部采用率的垂直增长图表。数月内,大约 30% 合并到其前端和后端存储库的所有拉取请求都是由 Inspect 编写的。这种渗透表明闭环代理是生产力方面的阶跃函数式改变,而不是边际改进。

好奇心的经济学

闭环代理的价值主张不仅仅是更快地交付代码,还在于解决方案发现的并行化。

在传统工作流中,探索重构或库升级成本很高。它需要上下文切换、暂存工作和解决依赖冲突。由于实验成本很高,我们实验的次数就越少。我们坚持使用安全的模式,以避免失败的时间浪费。

后台代理改变了好奇心的经济学。如果工程师可以启动 10 个并发代理会话来探索 10 种架构方法,失败的成本就会显著下降。

考虑一个团队迁移遗留组件。目前,这是一个多周的攻关项目。在新范式下,开发人员可以转而指派一组代理尝试使用不同的策略进行迁移。一个代理可能会尝试绞杀者模式。另一个可能会尝试硬切换。第三个可能会专注于集成测试。

然后开发人员审查结果,而不是编写代码。代理在隔离的沙箱中运行。它们构建、捕获语法错误并运行测试套件,直到达到绿色状态。开发人员醒来时会看到三个针对 CI 流水线进行验证的潜在拉取请求,并选择最佳的一个。

超越本地主机的验证

Ramp 的 Inspect 平台在定制的 CDE 中进行验证。为了确保这些环境尽管复杂也能快速启动,一个复杂的快照系统使镜像保持“热”状态并随时准备启动。Ramp 能够扩展此 CDE 基础设施以支持集成测试,这是一项出色的工程壮举,非常适合其特定上下文。

然而,对于许多构建复杂、云原生应用程序且具有高度依赖性的组织来说,这种方法面临着巨大的障碍。通常,整个堆栈太大,无法在单个虚拟机 (VM) 或开发舱 (devpod) 上启动。在这种情况下,虽然 CDE 仍然是替代本地开发笔记本电脑的绝佳选择,但高保真集成测试需要不同的方法

为了在这些复杂环境中实现真正的自主性,我们需要一种无需复制整个世界即可执行集成测试的方法。我们可以使用现有的 Kubernetes 基础设施将代理直接连接到共享基线环境

在此模型中,代理仅将修改后的服务部署到轻量级沙箱。基础设施使用动态路由和上下文传播将特定的测试流量引导到该沙箱,同时从共享、稳定的基线中满足所有其他依赖项。

这种方法使编码代理能够执行自主的端到端测试,无论堆栈的大小或复杂性如何。它利用现有集群提供高保真上下文。然后代理可以针对真实的上下游服务运行集成测试。它可以看到更改如何与实际的消息队列模式以及实时数据库的延迟进行交互。

这在提高保真度的同时降低了基础设施障碍。通过针对共享集群进行测试,代理可以捕获在密封的 VM 中可能通过的集成回归,而无需平台团队构建定制编排引擎来支持它。

软件交付的未来

Inspect 的发布清楚地表明了软件开发的发展方向。人类工程师作为唯一验证者的时代正在结束。我们正在迈向一个代理作为自主伙伴运行的世界,它们能够探索解决方案并验证自己的工作。

Ramp 已经证明这种工作流不是科幻小说。它今天正在生产中运行,并带来了巨大的效率提升。对于行业其他公司来说,问题不是是否采用这种工作流,而是如何采用。

无论团队是选择构建像 Ramp 这样的定制平台,还是采用像 Signadot 这样的现有云原生解决方案来为其代理提供运行时,其必要性都是一样的。我们必须为我们的代理提供一个“身体”。我们必须关闭生成与验证之间的循环。一旦我们这样做了,我们就会解锁一个速度水平,这将定义下一代高性能工程团队。