文章概要
面向已有 Spring 工程体系的 Java 团队,讨论如何在不脱离 JVM 技术栈的前提下把自主 Agent 推上生产。先厘清自主 Agent 与 Chat Completion 的三项能力差 —— 规划、工具使用、记忆,据此给出 "步骤可枚举就别做自主 Agent" 的选型口径;再划清 Spring AI 的职责边界:它解决编排写法,不解决运行时;最后拆解 Amazon Bedrock AgentCore 的 Runtime、Memory、Gateway、Browser/Code Interpreter 各自补什么,给出 @AgentCoreInvocation 的最小落地写法、渐进式采纳顺序,以及三条成本红线。结论一句话:Spring AI 解决 "怎么写",AgentCore 解决 "怎么活"。
要点速览
- 自主 Agent 与 Chat Completion 只差三条:规划、工具、记忆;RAG 只用到一条半。
- 步骤清晰、分支可枚举的任务,用 Spring AI 的工作流模式即可,不必上自主循环。
- Spring AI 管应用层写法,会话隔离、跨会话记忆、工具治理、审计属于平台层职责。
- AgentCore 的 I/O 等待不计 CPU 计费,正好对上 Agent 30%–70% 空转的负载特征。
- 成本先砍上下文再谈实例规格:工具按需发现、记忆只存摘要、单任务设硬上限。
第一次给 Java 团队评估 Agent,问题通常不是 "接哪个模型"。模型接入一下午就能通。真难的是:这东西放哪跑、跑挂了谁看得见、连跑三天会不会把账跑穿。
AWS 的解法是把这件事拆成两层:应用层交给 Spring AI,运行时交给 Bedrock AgentCore。拆得对不对,下面几段说。
一、Agent 和 Chat Completion 差三条能力
规划、工具、记忆。
规划是把目标拆成步骤,遇到新信息还要改步骤;工具是选一个外部函数调出去,把结果拿回来继续想;记忆是轮内保上下文、跨会话保偏好。
传统 RAG 只占其中一条半:有检索这一个工具,没有循环。所以 RAG 应用不会 "跑飞",Agent 会。判断要不要做 Agent,就问一句:这个任务的下一步需要模型自己决定吗?不需要,那它还是工作流,成本能差一个量级。
二、能写工作流,就别写自主 Agent
Spring AI 内置了链式、并行化、路由、编排器 - 工作者这几种模式。步骤清晰、分支可枚举的任务,用这些就够,而且天生可回归 —— 输入确定,输出就可预期。
完全自主的循环留给开放任务:目标模糊、路径不定、必须边做边看。官方在这点上的口径是一致的,先工作流,后自主。企业环境里 "可维护" 比 "看起来聪明" 值钱。
三、Spring AI 给的是 "写法"
ChatClient 是入口,Advisor 是拦截器链,@Tool 声明式注册函数。写法和你写数据访问层没区别:自动配置、依赖注入、可组合。
但它只解决 "怎么写"。会话隔离、跨会话记忆、工具治理、调用审计、并发下的成本控制,这些不在 Spring 的职责范围内。要么自己搭一套,要么交给平台。
四、AgentCore 补的是 "运行时"
Runtime:无服务器 microVM,会话级安全边界。按实际 CPU 与峰值内存计费,I/O 等待期间不计 CPU。这条对 Agent 形状特别友好 ——Agent 大量时间在等模型和外部接口,那 30%–70% 的空转不该收钱。
Memory:短期(会话内滑动窗口)与长期(跨会话)分开。长期记忆由平台异步整合,支持语义、偏好、摘要、情景四种提取策略。你自己用 Redis 加向量库也能做,但要处理写入放大和过期策略。
Gateway:把手上的 REST 接口、Lambda 转成 MCP 工具,或者直接接已有的 MCP server。比给每个内部系统手写一层 @Tool 包装省事得多。
Browser / Code Interpreter:托管的浏览器自动化与隔离执行环境。SDK 里已经封成 ToolCallbackProvider,注入即可用。
Identity 与 Observability:前者让 Agent 以用户身份或自身身份访问第三方,不用把 token 硬编码进工具;后者按 OpenTelemetry 输出逐步链路 —— 排查 "它为什么调了这个工具",这几乎是唯一线索。
五、落地就一个注解
Spring AI AgentCore SDK 已正式可用。核心是把方法暴露成运行时能调的端点:
@Component
class TicketAgent {
private final ChatClient chatClient;
@AgentCoreInvocation
String handle(String input) {
return chatClient.prompt()
.user(input)
.call()
.content();
}
}
/invocations 与 /ping 由注解自动配好,你只写方法体。记忆通过 Spring AI 的 advisor 织进去,浏览器和代码解释器作为标准工具回调交给模型。部署是打 ARM64 镜像推 ECR,再由 Runtime 引用这个镜像。
六、钱和边界
计费按用量、无预付承诺:Runtime 按秒,Memory 分摄入、存储、检索三段,Gateway 按调用次数,Identity 经 Runtime 或 Gateway 使用时无额外费用。
所以不必一上来全量迁。先只借 Memory,或只借 Browser,Agent 本体还跑在 EKS、ECS 或本地。这一步验证的是 "值不值得",不是 "迁不迁"。
边界也说清楚:AgentCore 主体落在 AWS 生态里,你已有 IAM、CloudWatch、ECR 的底子,摩擦就小;主体在别处,就先按单项能力用,别为了一个托管运行时把整个基础设施搬过去。
一句话:Spring AI 解决 "怎么写",AgentCore 解决 "怎么活"。两条腿都得有,才走得动。