数据来源:GitHub REST API 与 Search API 实测,采集时间 2026 年 11 月 18 日;版本号取自各仓库 Latest Release。
收录范围:Java / Kotlin / JVM 语言实现,且与 LLM 应用或 Agent 直接相关的开源项目;纯商业产品、纯 Python/TS 项目、仅"支持 Java 调用"的云端 API 不计入。
全文 50+ 项目,按 7 层分类,末尾给选型决策树与冷水。
一、先看一个反常识的信号
如果要给 2026 年的 JVM AI 生态选一个最有代表性的项目,我的答案不是 Spring AI,也不是 LangChain4j,而是 Atmosphere——一个 3,836 星、名字听起来像 WebSocket 框架、README 第一句话却是「Portable AI agent runtime for the JVM」的东西。
它的核心卖点只有一句:
一个
@Agent类,跑在 Spring AI、LangChain4j、Anthropic、Google ADK、Koog、Embabel、AgentScope、Semantic Kernel 等 12 个运行时之上。
这件事之所以值得放在开篇,是因为它暴露了 2026 年 JVM 生态的真实状态:
框架已经多到需要一层"适配器"来收敛了。
Python 生态的路径是"一个 LangChain 吃掉所有抽象,再分裂出 LangGraph、CrewAI、AutoGen 各自占位";JVM 生态走的却是另一条路——Spring 系、LangChain 系、Agent 原生系、大厂 SDK 系四股力量同时存在,谁也没能吃掉谁,于是生态自己长出了一层"跨框架可移植"的需求。
这不是坏事。它意味着 JVM 的 AI 生态已经越过了"能不能调模型"的原始阶段,进入了"怎么把 Agent 塞进已有企业系统"的工程阶段。但它也意味着:你今天选的框架,两年后大概率还在,但它的 API 会变。
下面这张图是本文的分类骨架。七层,从模型接入到应用平台,越往上越贴近业务,越往下越贴近基础设施。
flowchart BT
L6["L6 应用 / 平台层<br/>JeecgBoot · Chat2DB · RuoYi AI · LangChat · JManus"]
L5["L5 集成 / 工作流层<br/>Camel · Flink Agents · Camunda · Flowable · Kestra · Temporal"]
L4["L4 数据 / 检索 / 推理层<br/>Tika · Lucene · Vespa · Milvus · Qdrant · JLama · DJL"]
L3["L3 协议层<br/>MCP Java SDK · A2A Java SDK · Quarkus MCP"]
L2["L2 Agent 编排 / 运行时层<br/>AgentScope Java · Embabel · Koog · ADK Java · LangGraph4j · Atmosphere"]
L1["L1 应用框架层<br/>Spring AI · LangChain4j · Solon AI · Agents-Flex · ai4j"]
L0["L0 模型接入 / SDK 层<br/>openai-java · deepseek4j · ollama4j · 各家 provider"]
L0 --> L1 --> L2 --> L3
L1 --> L4
L2 --> L5
L3 --> L6
L5 --> L6
L4 --> L6
图 1:JVM AI 生态的七层结构。注意 L2 与 L1 是并列而非包含关系——这是 Java 与 Python 最大的结构差异。
二、口径说明:为什么"Java AI 项目"很难数清
在开始罗列之前,必须先说清楚三件事,否则这份清单会变成误导。
第一,GitHub 的 language 字段会骗人。 我最初按 topic:llm language:Java 扫出 2,058 个仓库、按 topic:ai-agents language:Java 扫出 782 个,但逐个核对后发现大量误标:科大讯飞的 Astron Agent(8.9k 星)被标为 Java,实际核心是 Python + TypeScript,Java 可能只是某个 SDK 或引擎组件;Opik(23.4k 星)同样被标为 Java,实际是 Python/TS 项目。本文已剔除这类误标,只保留主语言确为 JVM 系的项目。
第二,Star 数在 2026 年已经严重通胀。 同期 Python 侧的 REA 有 41.5 万星、Hermes Agent 25 万星,而 JVM 侧最高的 LangChain4j 只有 1.34 万。这不是质量差距,是注意力差距——JVM 开发者习惯"用但不 star"。所以本文的排序只作参考,判断项目活跃度请看 pushed_at 和 release 节奏,那比 star 诚实得多。
第三,"框架"和"应用"的边界正在消失。 JManus 既是框架也是产品,LangChat 既是脚手架也是平台。我在分类时按主要使用方式归位,并在点评里注明它的双重身份。
按这个口径,60 个项目落到 7 层,各层的成熟度差异极大——这是本文最重要的一张表,因为它决定了你该把精力花在哪:
| 层 | 主题 | 条目 | 代表项目 | 成熟度判断 |
|---|---|---|---|---|
| L6 | 应用 / 平台 | 14 | JeecgBoot、Chat2DB、RuoYi AI、LangChat | 分化严重:工具型(Chat2DB)已成熟,平台型高度同质化 |
| L5 | 集成 / 工作流 | 8 | Camunda、Camel、Kestra、Flowable | 成熟,正在被重新定义:流程引擎集体转向 Agent 编排 |
| L4 | 数据 / 检索 / 推理 | 13 | opendataloader-pdf、Vespa、DJL、Tika | 组件成熟,管线缺失:零件齐全,没人给你装成整机 |
| L3 | 协议 | 6 | MCP Java SDK、A2A Java SDK | 成熟且与 Python 同步:JVM 唯一不落后的层 |
| L2 | Agent 编排 / 运行时 | 8 | AgentScope、Embabel、Koog、ADK、Atmosphere | 快速演化,API 不稳定:机会最多,坑也最多 |
| L1 | 应用框架 | 8 | Spring AI、LangChain4j | 成熟,已进入工程化阶段:选型基本收敛 |
| L0 | 模型接入 | 3 | openai-java、deepseek4j | 成熟,官方 SDK 正在收敛市场 |
| 横切 | 可观测 / 治理 | 1 | HertzBeat | 近乎空白:详见第十二节"冷水" |
三、L0:模型接入层——最不性感,但最不该自己写
这一层是"把 HTTP 请求封装成 Java 对象"的活儿,技术含量低,但踩坑率高(流式解析、tool call 增量拼接、重试、超时、token 计数)。结论先行:除非你要接一个冷门国产模型,否则不要自己写。
| 项目 | Stars | 最新版本 | 出品方 | 定位与点评 |
|---|---|---|---|---|
| openai-java | 1,568 | v4.108.0 | OpenAI 官方 | 官方维护,Kotlin 实现但完整支持 Java 调用。Responses API、流式、结构化输出齐全。接 OpenAI 及兼容端点(DeepSeek、通义、豆包、vLLM)的首选底座,比社区 SDK 少踩一半的协议坑 |
| deepseek4j | 751 | — | pig-mesh 社区 | 国内使用最广的 DeepSeek Java SDK,对 reasoning_content 的流式处理做得比通用 SDK 细。适合只接 DeepSeek 的轻量场景 |
| ollama4j | 509 | — | 社区 | Ollama 的 Java 客户端,本地跑模型做 PoC 够用。生产环境的模型管理能力弱,别指望它 |
这一层的真实格局:官方 SDK 正在吃掉社区 SDK。两年前 Java 开发者还在纠结 TheoKanning/openai-java(4,704 星,已于 2024 年归档),现在官方 openai-java 已经把这条路封死。这是个好信号——说明模型厂商开始把 JVM 当正经客户端了。
四、L1:应用框架层——Java AI 的主战场
这一层解决的是"怎么在 Java 里把模型、工具、向量库、记忆拼起来"。它是 JVM AI 生态里竞争最激烈、也最成熟的一层。
| 项目 | Stars | 最新版本 | 出品方 | 定位与点评 |
|---|---|---|---|---|
| LangChain4j | 13,420 | v1.23.0 | 社区(LangChain4j 团队) | JVM 侧事实标准。API 设计最贴近 Python LangChain,ChatModel / EmbeddingStore / Tool / Memory 抽象完整。注意它的双轨版本策略:核心线(core / open-ai / http-client)走稳定版,实验线(agentic / mcp / guardrails / spring-boot-starter)只发 -betaN,且必须成对升级(1.23.0 配 1.23.0-beta33)。用错版本组合是最常见的依赖地狱来源 |
| Spring AI | 9,657 | v2.0.2 | Spring 官方 | 2026 年 6 月 12 日在 Spring I/O 发布 2.0 GA,配套 Spring Boot 4 / Framework 7 / Jackson 3,JDK 21 起步。2.0 是一次"收紧"而非"扩张" :ChatClient 统一入口、工具调用接口重做、MCP 原生集成(@McpTool)、JSpecify 空安全、结构化输出带自纠错。当前 2.0.2 是稳定基线,2.1.0-RC1 已出,2.1 将引入 Session API 并废弃 ChatMemory |
| Spring AI Alibaba | 11,159 | v1.1.2.2 (2.0.0-M1.1) | 阿里云 | 国内教程覆盖率最高的 Java AI 框架,Graph 编排 + Nacos 集成 + 通义/百炼适配做得最顺。但必须如实说:它目前处于事实性停滞——稳定版停在 1.1.2.2,2.0 只有 2026 年 6 月的 M1.1 预发布,仓库主干最后提交为 2026-10-07。社区已有"停更"讨论,官方未正面回应。选它之前请先评估这个风险 |
| Agents-Flex | 1,057 | v2.3.0 | 国产社区 | 轻量路线,对标 Spring AI 但不绑 Spring。RAG、MCP、Skills、Text2SQL、Subagent、TTS/STT 一应俱全,文档中文友好。适合中小团队快速起量 |
| Solon AI | 473 | v4.1.1 | 国产社区(Solon 生态) | 极致轻量,无 Spring 依赖,启动快、内存低。LLM-tool、Skill、RAG、MCP、Agent-ReAct 都支持。信创/嵌入式/低配容器场景的实用选择,生态规模小是主要短板 |
| ai4j | 441 | — | 国产社区 | 明确支持 Java 8+ ,统一接入 OpenAI / Anthropic / DashScope / 豆包 / DeepSeek。老系统(JDK 8)想加 AI 能力时的现实解法,代价是拿不到虚拟线程红利 |
| Quarkus LangChain4j | 325 | v1.15.1 | Quarkiverse | LangChain4j 的 Quarkus 原生扩展,编译期注入 + GraalVM native image。冷启动敏感场景(Serverless、FaaS)的唯一正经答案 |
| langchain4j-community | 229 | — | 社区 | 官方主仓放不下的集成都挪到这里(各种国产模型、向量库、文档解析器)。找冷门集成先来这里 |
4.1 这一层的三条暗线
暗线一:Spring AI 与 LangChain4j 不是"二选一",而是"分层"。 2026 年越来越多的项目同时引入两者——用 Spring AI 管 ChatClient 和自动配置,用 LangChain4j 的 agentic 模块做编排。Atmosphere 直接把这条实践产品化了(同时提供两个适配器)。如果你的团队已经在 Spring Boot 上,别为了"纯正"去绕开 Spring AI。
暗线二:实验模块的 beta 状态是最大工程风险。 LangChain4j 的 agentic、mcp、guardrails 至今只发 beta;Spring AI 2.1 的 Session API 会废弃 ChatMemory。这意味着 2026 年写的 Agent 代码,2027 年大概率要改一遍。 应对方式只有一个:把框架调用收敛到自己的薄封装层,别让它渗透到业务代码。
暗线三:国产框架的"轻量"路线在抬头。 Agents-Flex、Solon AI、ai4j 的共同点是不绑 Spring。原因很实际——很多企业的 AI 需求是一个独立服务、一个边端程序、一个老系统插件,扛不动 Spring Boot 4 的体量。这条线在 2026 年增长明显,但生态规模还撑不起"主框架"的位置。
五、L2:Agent 编排与运行时层——2026 年真正的主战场
如果说 L1 解决"调模型",L2 解决的是"让模型自己跑起来"。这一层是 2026 年 JVM 生态变化最剧烈的地方,也是路线分歧最尖锐的地方。
| 项目 | Stars | 最新版本 | 出品方 | 定位与点评 |
|---|---|---|---|---|
| AgentScope Java | 6,407 | v2.0.5 | 阿里通义实验室 | JVM 侧最完整的"分布式 Agent 运行时" 。2025 年 12 月开源 1.0,2026 年 6-7 月发布 2.0,架构重做为 Harness / Runtime / Workspace / Skill 四层,内置 9 种多智能体协作模式,支持状态持久化、流式取消、沙箱工作空间、A2A 互操作。它的野心不是"框架",是"底座" ——对标的是 Python 的 AgentScope + Runtime,而不是 LangChain |
| Koog | 4,665 | v1.3.0 | JetBrains | Kotlin 优先的 JVM Agent 框架,可跑 JVM / Android / iOS / WasmJS。图式工作流 + 强容错是它的招牌:工具抛异常不崩、可重试、可回滚、可取消。JetBrains 把它定位成"Spring AI 负责连接,Koog 负责把能力变成可靠系统",这个分工说得很准 |
| Embabel | 4,560 | v1.5.4 | Rod Johnson(Spring 之父) | 最"反潮流"也最值得研究的项目。核心是 GOAP(Goal-Oriented Action Planning):不让 LLM 决定每一步,而是由代码定义领域动作、前置条件、成本,规划器在类型安全的动作空间里搜索路径。Rod 的原话是"你不能凭感觉(vibe-code)编写严肃软件"。它赌的是"企业要确定性",而不是"模型会越来越聪明" |
| Atmosphere | 3,836 | 4.0.x | Async-IO | 跨框架可移植运行时。一个 @Agent 注解,classpath 上有什么适配器就跑什么(12 种);统一暴露 MCP / A2A / AG-UI 端点;强项是实时传输 + 治理——WebSocket/SSE/gRPC 共享一条 broadcaster,策略准入、HITL 持久化审批、PII 重写、成本封顶、plan-and-verify(带 SMT 求解器验证工具调用序列)。它填补的是"Java 没有 Agent 网关"这个空白 |
| LangGraph4j | 2,113 | v1.9.10 | 社区(bsorrentino) | LangGraph 的 Java 移植,图编排 + checkpoint + human-in-the-loop + 子图。从 Python LangGraph 迁移过来的团队最省心的选择,代价是生态插件远不如原版 |
| Google ADK Java | 1,775 | v1.14.0 | code-first 的 Agent 工具箱,与 Python/Go 版同构。多 Agent 层级、工具、评估、部署到 Vertex AI Agent Engine 一条龙。强绑定 GCP 是它的护城河也是它的天花板;不过纯本地跑也完全可行 | |
| JManus | ~1,100 | V4.10.12 | 阿里云 Spring AI Alibaba 团队 | Manus 的纯 Java 实现,后来转向"Agent 开发平台"。PLAN-ACT 模式 + Func-Agent(精确控制每一步)+ 可视化配置 + 50+ 预置工具 + HTTP 调用接口。它更像产品而非库,适合想要"开箱即用多 Agent 控制台"的团队 |
| Semantic Kernel for Java | 28,786(全仓,C# 为主) | 维护模式 | Microsoft | 必须单独说:2025 年 10 月微软把 AutoGen 与 Semantic Kernel 合并为 Microsoft Agent Framework(2026 年 4 月 GA 1.0),SK 全线转入维护模式,只修安全漏洞。Java 版随之失去独立演进。它是理解"插件 + 函数调用"范式的好教材,但不建议作为 2026 年的新项目选型 |
5.1 三条路线的根本分歧
把上面这些项目排开,你会发现它们不是"功能多少"的差别,而是对"谁来决策"这个问题的回答不同。
flowchart LR
Q["下一步做什么<br/>由谁决定?"]
Q --> A["LLM 决定<br/>AgentScope Java<br/>ADK Java<br/>LangGraph4j<br/>Koog"]
Q --> B["代码决定<br/>Embabel<br/>Camunda / Flowable<br/>Atmosphere plan-and-verify"]
Q --> C["不决定,做适配<br/>Atmosphere<br/>(把选择权留给团队)"]
A --> A1["优势:开放任务、探索性强<br/>代价:不确定、难测试、成本不可控"]
B --> B1["优势:可审计、可回归、成本可算<br/>代价:开放性弱、领域建模成本高"]
C --> C1["优势:不锁死、渐进迁移<br/>代价:多一层抽象、性能损耗"]
图 2:JVM Agent 框架的三条路线。这不是技术优劣,是业务确定性需求的映射。
我的判断是:这两条路线会在 2027 年合流,而不是一方胜出。 理由是企业的真实需求本来就是分层的——客服问答要开放(LLM 决定),订单处理要确定(代码决定),而同一个系统里两者都有。AgentScope 2.0 引入的 Skill/Workspace 分层、Embabel 支持在 GOAP 里嵌入 LLM 子目标、Atmosphere 的 plan-and-verify,本质上都在往中间靠。
谁能先把"开放任务"和"确定性流程"在同一个运行时里缝好,谁就赢下企业市场。 目前最接近的是 AgentScope Java(分布式运行时 + 多模式协作)和 Atmosphere(治理 + 可移植),但都还没到"开箱即用"的程度。
5.2 一个被低估的分水岭:长时运行
2026 年 JVM Agent 框架真正的技术分水岭,不是"支持多少种协作模式",而是能不能长时运行。
一个跑 30 秒的 demo Agent 和一个跑 3 小时、中间要断点续跑、要人工审批、要跨重启恢复状态的 Agent,是两个物种。后者需要的不是 prompt 工程,而是:
- 状态持久化(checkpoint、事件溯源)
- 取消语义(流式取消不 stall、工具调用可中断)
- 幂等与重试(工具调两次不能重复下单)
- 资源隔离(沙箱工作空间、文件系统队列)
AgentScope Java 2.0 的 2.0.x 维护版本几乎全在修这类问题(v2.0.5 的 60 来个修复里,状态竞态、流式取消、沙箱静默失败占了大头);Atmosphere 把"持久会话 + 断线重连安全回放"做成核心卖点;Temporal / Camunda 这类工作流引擎则从另一侧切入。
这一层才是 Java 真正该赢的地方。 因为长时运行的敌人是"进程挂了怎么办""状态存哪""怎么审计"——这些是 JVM 二十年企业级中间件经验的正面战场,而不是模型能力的比拼。
六、L3:协议层——Java 唯一不落后的地方
如果只看模型和 Agent 抽象,Java 落后 Python 一到两年;但在协议层,Java 几乎是同步的。原因很简单:协议是语言无关的,而 Java 的工程能力(强类型、代码生成、成熟的 HTTP/SSE 栈)在实现协议时反而是优势。
| 项目 | Stars | 最新版本 | 出品方 | 定位与点评 |
|---|---|---|---|---|
| MCP Java SDK | 3,774 | v2.2.0 | Anthropic 生态 / 官方 | MCP 的官方 Java 实现,server + client 双端,支持 stdio / SSE / streamable HTTP。2.x 对应 2026 年的 MCP 规范版本,会话协议与无状态模式都跟上了。JVM 侧接工具生态的必经之路 |
| A2A Java SDK | 517 | v1.5.1.Final | Google 捐赠 / Linux 基金会 | Agent2Agent 协议的官方 Java SDK。Agent Card 发现、任务生命周期、流式事件。跨语言 Agent 互操作的标准答案,配合 AgentScope / ADK 使用最顺 |
| Quarkus MCP Server | 204 | v2.1.0.CR1 | Quarkiverse | 用注解把 Quarkus 的 bean 暴露成 MCP server,编译期生成,native image 友好。给已有 Quarkus 服务"加一个 MCP 门"的最低成本方案 |
| SonarQube MCP Server | 689 | — | SonarSource 官方 | 把代码质量与安全扫描暴露给 AI Agent。这是"Java 生态把自家工具 MCP 化"的典型样本,同类还有 JADX、Ghidra 的 MCP 插件 |
| jadx-ai-mcp | 3,015 | — | 社区 | JADX(Android 反编译)的 MCP 插件 |
| ghidra-mcp | 6,271 | — | 社区 | Ghidra 的 MCP Server,200+ 逆向工具 |
这里有个容易被忽略的事实:MCP 生态里星数最高的 Java 项目,不是框架,而是逆向工程工具(ghidra-mcp 6.3k、jadx-ai-mcp 3.0k)。这说明 JVM 在"把存量桌面工具接进 Agent"这件事上有独特位置——Ghidra、JADX、Burp、IntelliJ 这些工具本身就是 Java 写的,加一层 MCP 比重新实现便宜得多。这是 Java 生态一条被低估的差异化路径。
七、L4:数据、检索与推理层
Agent 的上限由模型决定,下限由检索决定。这一层 Java 的成熟度其实不差——差的是"开箱即用的 RAG 管线"。
| 项目 | Stars | 最新版本 | 定位与点评 |
|---|---|---|---|
| opendataloader-pdf | 30,332 | — | 本轮最大的意外发现。PDF 解析成 AI-ready 数据(结构化 JSON、表格、阅读顺序),Java 实现,Apache 2.0。3 万星说明"文档解析"才是 RAG 的真痛点——比任何 Agent 框架都刚需 |
| Vespa | 7,184 | — | 老牌 AI 搜索平台,向量 + 倒排 + 结构化过滤 + 排序表达式一体。大规模检索场景的重武器,运维复杂度也成正比 |
| Apache Pinot | 6,177 | — | 实时分析数据库,已支持向量检索。适合"实时指标 + 语义检索"混合查询 |
| DJL | 4,861 | v0.40.0 | Java 深度学习框架,引擎无关(PyTorch / TensorFlow / ONNX / MXNet)。在 JVM 里跑 embedding、rerank、小模型推理的成熟方案 |
| Apache Tika | 4,153 | — | 文档元数据与文本抽取的万金油,1000+ 格式。RAG 预处理的默认起点 |
| Apache Lucene | 3,613 | — | 向量检索(HNSW)+ 全文检索的底座。Elasticsearch、Solr、OpenSearch 都建在它上面 |
| JLama | 1,311 | — | 纯 Java 的 LLM 推理引擎,用 Panama Vector API 做 SIMD 加速。意义不在性能(打不过 llama.cpp),而在"零 native 依赖、可嵌入、可 GraalVM 编译" |
| memind | 906 | — | Java 的 Agent 记忆与上下文引擎,自我演化式记忆。JVM 侧少见的"记忆层"专项项目 |
| Elasticsearch Java Client | 526 | — | 官方客户端,向量检索(dense_vector / kNN)支持完整 |
| Milvus Java SDK | 501 | — | 官方 SDK |
| OpenSearch Java | 163 | — | 官方客户端 |
| Qdrant Java Client | 100 | — | 官方客户端 |
| Weaviate Java Client | 34 | — | 官方客户端,规模最小 |
这一层的判断:向量库客户端 Java 侧全都有官方维护,这点不用担心。真正的短板在RAG 管线的"最后一公里" ——分块策略、混合检索、rerank、引用溯源,Python 有 LlamaIndex 这种一站式方案,Java 只能自己拼(Spring AI 的 QuestionAnswerAdvisor 和 LangChain4j 的 RetrievalAugmentor 是当前最好的两个起点,但都还称不上"管线")。
八、L5:集成、工作流与运行时
这一层是 Java 的传统优势区,也是它相对 Python 最不该输的地方。
| 项目 | Stars | 最新版本 | 定位与点评 |
|---|---|---|---|
| Kestra | 30,269 | — | 声明式工作流编排平台,Java 实现,有 AI/LLM 插件。 "编排一切"的定位比 Agent 框架更宽,适合把 Agent 当成流程里的一个节点 |
| Flowable | 9,661 | 8.0.0 | BPMN 引擎,8.0 开始提供 AI/Agent 集成。把 Agent 塞进审批流的现实路径 |
| Apache Camel | 6,414 | — | 350+ 连接器 + camel-langchain4j 组件。企业集成(EIP)的老牌王者, "让 Agent 调 SAP / 调 MQ / 调 FTP"这件事没人比它更熟 |
| Camunda | 4,367 | v8.10.9 | 注意它的自我定位已经改成 "Agentic Orchestration Platform" ——从 BPM 引擎转向 Agent 编排。这个转身很有代表性:流程引擎厂商认为 Agent 是流程的一种节点 |
| LiteFlow | 3,911 | — | 国产规则/组件编排引擎,规则 EL 表达力强。 "AI 节点 + 业务节点"混排的轻量方案 |
| ByteChef | 1,063 | — | 开源 AI Agent + 工作流自动化,可自托管或嵌入 SaaS。定位接近 n8n 的 Java 版 |
| Flink Agents | 494 | — | 基于 Flink 的流式 Agent 框架,事件驱动、有状态、Exactly-Once。实时数据流上跑 Agent 的唯一正经方案,Apache 孵化中,成熟度尚早 |
| Temporal Java SDK | 444 | — | 持久化执行引擎的 Java SDK。长时 Agent 的"状态与重试"外包给 Temporal 是越来越流行的架构,比自己在框架里造 checkpoint 靠谱 |
这一层藏着一个重要趋势:2026 年企业落地 Agent 的主流形态,不是"一个 Agent 框架跑所有事",而是"工作流引擎 + Agent 节点" 。Camunda 改定位、Flowable 8.0 加 AI、Kestra 加 LLM 插件、Camel 加 langchain4j 组件,四家不约而同。原因很实在——企业已经有流程引擎、有审批、有权限、有审计,Agent 只要能当一个节点就够了,没必要推翻重来。
如果你是 enterprise 架构师,我的建议是:优先考虑"工作流引擎 + Agent 节点",而不是"Agent 框架 + 自己造工作流"。 前者你继承的是二十年的流程治理能力,后者你要从零实现。
九、L6:应用与平台层——最能看出"谁在真用"
框架看野心,应用看需求。这一层的项目最能反映 JVM 开发者在 2026 年真正想做什么。
| 项目 | Stars | 最新版本 | 定位与点评 |
|---|---|---|---|
| JeecgBoot | 48,511 | — | AI 低代码平台,48k 星。权限、多租户、工作流、报表、大屏、AI 知识库开箱即用。 "AI 生成业务代码"这条路在国内最成熟的落地,也是 JVM 侧星数最高的 AI 相关项目 |
| Halo | 40,333 | — | 建站工具,AI 插件生态完整(写作辅助、摘要、向量检索)。内容场景 + AI 的典型样本 |
| Chat2DB | 28,365 | v5.3.8 | AI 驱动的数据库客户端,自然语言转 SQL、SQL 解释与优化。 "Text2SQL 做成一款 IDE" ,是 JVM 侧最成功的 AI 工具型产品之一 |
| SuperSonic | 5,200 | — | 腾讯音乐开源的 ChatBI 平台:语义层建模 + Text2SQL + 多轮对话 + 指标归因。企业级 ChatBI 的完整参考实现,语义层设计比"直接让 LLM 写 SQL"靠谱得多 |
| RuoYi AI | 5,838 | v3.1.0 | 基于 RuoYi-Vue-Plus 的企业级 AI 平台:多模型管理、知识库、RAG、工作流、绘画。国内 Java 团队做私有化 AI 平台最常见的起点。定位是"脚手架"而非"平台",别指望它开箱即对标 Dify |
| ragent | 4,482 | — | 企业级 Agentic RAG 智能体实战项目:文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用、深度思考。教学与工程价值都很高,适合当 RAG 全链路的参考实现读 |
| langchain4j-aideepin | 1,404 | — | AI 应用平台:聊天、绘画、知识库、工作流、MCP 服务市场、语音输入输出、长期记忆。功能密度高,适合做产品原型 |
| LangChat | 1,362 | — | Java + LangChain4j 生态的 AI Agent 应用平台,多模型、Agent、知识库 RAG、Skill。前后端分离,国内社区活跃 |
| EnterpriseAgentFramework | 1,053 | — | ReachAI 企业级智能体平台,主打"在 OA / ERP / CRM 原系统里查数据、填表单、办业务"。RPA 式 Agent 的 Java 实现,思路务实 |
| nexus-agent | 681 | — | 企业级 Agent 平台:智能对话、文档问答、联网搜索、RAG、MCP、Skills,三层执行器 + 双通道混合检索 |
| spring-ai-agent-utils | 688 | — | Spring AI 社区的"Claude Code 风格"工具与 Agent Skills 库。把编码 Agent 的那套工具范式搬到 Spring AI 上,很值得一读 |
| FinSight-AI | 562 | — | 金融投研 Agent:弹性工作流、证据锚定 RAG、版本化报告。垂直场景的完整样本 |
| EDDI | 394 | — | 配置驱动的 Agent 引擎:用 JSON 定义 Agent、多 Agent 编排、对话管理。 "低代码 Agent"的另一种解法 |
| AI-Interview | 261 | — | AI 模拟面试系统,数字人面试官 + 追问 + 逐题打分,Java 21 + Spring |
从这一层能读出三个真实需求:
- "私有化知识库 + 多模型管理"是最大公约数。 RuoYi AI、LangChat、aideepin、nexus-agent 的功能列表高度重合,说明这是企业愿意付钱的需求。
- Text2SQL / ChatBI 是 JVM 的甜点区。 Chat2DB 28k 星、SuperSonic 5.2k 星不是偶然——数据库、SQL、JDBC 本来就是 Java 的地盘,把 LLM 接上去是顺水推舟。而且这两个项目都证明了同一件事:语义层比 prompt 更重要。
- "AI 改造存量系统"比"新建 AI 应用"更热。 EnterpriseAgentFramework 的定位(在 OA/ERP/CRM 里办事)比任何"通用 Agent 平台"都更贴近中国企业的实际预算。
十、五条主线:2026 年 JVM AI 生态到底发生了什么
罗列完了,该给判断了。我把 2026 年 JVM 侧的变化归纳成五条主线。
主线一:Spring AI 2.0 把 Java AI 拉到了"工程基线"
2026 年 6 月 12 日 Spring AI 2.0 GA,配套 Spring Boot 4 / Framework 7 / Jackson 3,这是JVM AI 从"能用"到"敢上生产"的分界线。
它做的不是加功能,而是收紧:ChatClient 统一入口、工具调用接口重做、JSpecify 空安全、MCP 原生集成、结构化输出带自纠错、虚拟线程默认可用。这些改动让"AI 代码"第一次能通过企业的那套代码审查——类型安全、可测试、可观测。
代价是迁移成本。 1.x 到 2.0 的破坏性变更不小,尤其是工具调用和 advisor 链。我见到不少团队卡在 1.x 不敢升,这在 2026 年下半年会变成一个越来越贵的决定。
主线二:虚拟线程让 Java 写 Agent 的姿势终于对了
Agent 的本质是"大量阻塞等待"——等模型返回、等工具执行、等人工审批。传统 Java 用线程池扛,几百个并发就顶到天花板;用 Reactor 扛,代码可读性崩盘。
虚拟线程(JDK 21 正式,JDK 25 LTS 成熟)把这个问题解掉了:一个 Agent 会话一个虚拟线程,用阻塞式代码写 ReAct 循环,几万并发不是问题。Spring AI 2.0 和 AgentScope Java 都在这上面做了深度适配。
这是 JVM 相对 Python 的结构性优势——Python 的 asyncio 模型在"高并发 + 大量阻塞式工具调用"混合的场景下,工程复杂度明显更高(free-threading 虽在推进,但生态迁移远未完成)。如果你要做的是"一万个用户各跑一个 Agent"的产品,Java 现在真的比 Python 合适。
主线三:Spring AI Alibaba 的事实性停滞,是生态最大的不确定性
必须单独说这件事,因为它影响的人最多。
截至 2026 年 11 月 18 日,Spring AI Alibaba 的稳定版停在 1.1.2.2,2.0 只有 2026 年 6 月 25 日的 2.0.0-M1.1 预发布,仓库主干最后提交是 2026-10-07。社区从 9 月起就在讨论"是否停更",有分析认为团队资源转向了 AgentScope Java,也有说法是"要换心脏"(架构重写)。官方没有给出明确时间表。
这件事的杀伤力不在于"少了一个框架",而在于"锁死了一批项目"。 国内大量 Java AI 教程、毕业设计、企业 PoC 都是基于 Spring AI Alibaba 的 Graph 模块写的,一旦它停在 1.1.x,这些代码就同时失去了 Spring AI 2.x 的升级路径和 Alibaba 的模型适配更新。
我的建议:新项目不要把它当唯一依赖。要用 Graph 编排,优先考虑 LangGraph4j 或 AgentScope Java;要用通义/百炼的模型适配,直接用 Spring AI 的 OpenAI 兼容端点也能跑。把它当"可替换的适配层",而不是"地基"。
主线四:微软退出 JVM 的 Agent 框架竞赛
Semantic Kernel 2025 年 10 月与 AutoGen 合并为 Microsoft Agent Framework,2026 年 4 月 GA 1.0,SK 全线转维护模式。Java 版因此失去了独立演进的能力。
这不是小事。它说明一个判断: "大厂做一个多语言 SDK,让各语言版本同步跟进"这条路,在 Agent 时代走不通了。 Agent 框架的演进速度太快,多语言同步的成本太高,微软选择把资源集中到 .NET 主战场。
对 Java 开发者的启示很直接:别指望"某家大厂会一直维护 Java 版" 。Google 的 ADK Java 目前很活跃(v1.14.0),但它同样是"三语言同步"模式,长期能不能维持,要看 Google Cloud 的商业回报。选型时把"治理主体是否把 JVM 当主战场"作为一个硬指标——阿里(AgentScope)、JetBrains(Koog)、Rod Johnson(Embabel)这三家,JVM 就是他们的全部,动力结构更稳。
主线五:协议收敛,Java 第一次跟上了标准
MCP Java SDK 到 2.2.0,A2A Java SDK 到 1.5.1.Final,两个官方 SDK 都跟上了 2026 年的规范版本。加上 Spring AI 2.0 的 @McpTool、Quarkus 的 MCP 扩展、LangChain4j 的 mcp 模块,JVM 侧接工具生态的能力已经和 Python 拉平。
这是 2026 年最被低估的进步。两年前 Java 接一个新工具要写一堆适配代码,现在只要那个工具提供 MCP server,McpToolProvider 挂上去就能用。注意这里说的是"接入能力"拉平,不是"工具丰富度"拉平——现成的 Java 原生 Agent 工具仍然远少于 Python,但至少你不再被协议挡在门外了。
十一、选型决策树
说了这么多,落到"我该用哪个"。下面这棵树按你已有的技术栈和业务确定性要求分支,不按 star 排。
flowchart TB
S["你的场景"] --> Q1{"已有 Spring Boot<br/>单体/微服务?"}
Q1 -->|是| Q2{"要做的是<br/>RAG / 客服 / 内容生成?"}
Q1 -->|否| Q3{"JVM 栈是什么?"}
Q2 -->|是| A1["Spring AI 2.0<br/>+ ChatClient + Advisor<br/>(别自己造轮子)"]
Q2 -->|否,要长时多 Agent| A2["AgentScope Java<br/>分布式运行时 + 状态持久化"]
Q2 -->|否,要确定性流程| A3["Embabel 或<br/>Camunda/Flowable + Agent 节点"]
Q3 -->|Quarkus / native| A4["Quarkus LangChain4j<br/>编译期 + GraalVM"]
Q3 -->|Kotlin / 多平台| A5["Koog<br/>JVM/Android/iOS/Wasm"]
Q3 -->|无框架 / 极轻量| A6["Solon AI / Agents-Flex<br/>/ ai4j(JDK 8)"]
Q3 -->|GCP / Vertex| A7["Google ADK Java"]
A1 --> X{"要跨框架可移植<br/>或需要 Agent 网关?"}
A2 --> X
A3 --> X
X -->|是| A8["Atmosphere<br/>@Agent + MCP/A2A/AG-UI + 治理"]
X -->|否| Z["保持简单,别加层"]
图 3:选型决策树。注意最后一个分支——大多数团队不需要 Atmosphere 那一层,加抽象是有成本的。
几个具体场景的直接答案:
| 场景 | 推荐 | 理由 |
|---|---|---|
| 已有 Spring Boot 系统,加 AI 能力 | Spring AI 2.0 | 自动配置、Actuator、Security 全都现成,迁移成本最低 |
| 从 Python LangChain 迁过来 | LangChain4j | API 语义最接近,团队心智负担最小 |
| 从 Python LangGraph 迁过来 | LangGraph4j | 图、checkpoint、中断恢复的概念一一对应 |
| 要做"每个用户一个长跑 Agent" | AgentScope Java | 状态持久化、流式取消、沙箱是刚需,它做得最完整 |
| 金融/政务,要求可审计可回滚 | Embabel 或 BPMN 引擎 | 规划在代码里,路径可枚举、可测试、可解释 |
| Serverless / 冷启动敏感 | Quarkus LangChain4j | native image,启动毫秒级 |
| Kotlin 团队 / 要上移动端 | Koog | 唯一真正跨 JVM + iOS + Wasm 的选择 |
| 老 JDK 8 系统 | ai4j | 明确支持 Java 8,代价是放弃虚拟线程 |
| 要私有化 AI 平台,快速交付 | RuoYi AI / LangChat | 脚手架齐全,改造成本低于自研 |
| 要 Agent 网关 / 多渠道 / 人工审批 | Atmosphere | 实时传输 + 治理在关键路径上,这是它唯一的定位 |
十二、冷水:JVM 生态的五个真实短板
盘点文最容易写成软文。这一节专门说不好听的。
短板一:评估(Eval)几乎空白。 Python 有 Ragas、DeepEval、LangSmith、Opik,Java 侧没有一个形成气候的 Agent 评估框架(零星的小库有,但没人拿它做生产回归)。你要做回归测试,只能自己写断言、自己接 LLM-as-judge。这是 2026 年 JVM AI 生态最大的洞——没有评估,就没有工程化。
短板二:可观测靠外部拼。 Micrometer + OpenTelemetry 的 GenAI 语义约定能用,但"Agent 轨迹"这种特有结构(多轮、工具调用树、token 归因)没有 Java 原生方案。Atmosphere 的 lineage、Spring AI 的 observability 是当前最好的两个,但都还在早期。生态里唯一以"AI 驱动可观测"为定位的 Java 项目是 HertzBeat(7,469 星),但它解决的是"用 AI 观测系统",不是"观测 AI Agent"——这两件事不是一回事。
短板三:模型 provider 覆盖永远慢半拍。 新模型发布,Python SDK 当天可用,Java 要等社区适配。这个差距不会消失,只会缩小。应对方式:优先用 OpenAI 兼容端点,绝大多数国产模型都支持,能绕开 90% 的适配等待。
短板四:beta 模块的不稳定是系统性的。 LangChain4j 的 agentic/mcp/guardrails 只发 beta,Spring AI 2.1 要废弃 ChatMemory,AgentScope 2.0 刚重写完架构。2026 年写 JVM Agent 代码,必须假设 API 会变。 这不是某一家的问题,是整个生态还在快速演化期的必然。
短板五:社区规模差一到两个数量级。 同一天用同一口径实测 GitHub topic:ai-agents 的仓库数:Python 58,543 个、TypeScript 34,010 个、Java 只有 782 个。当然,这个数字有夸大成分——Python 社区更爱打 topic,Java 项目常常什么都不标——但 75 倍的差距不可能全靠标注习惯解释。LangChain4j 1.34 万星 vs LangChain 14.6 万星,也是同一个信号。后果是:遇到冷门问题,搜不到答案;想找轮子,得自己造。 这个差距在 2026 年没有缩小的迹象。
十三、给三类人的建议
给 Java 后端工程师:不用转 Python。2026 年 JVM 侧的框架成熟度已经够你做 90% 的企业 AI 需求,而且你的优势(事务、并发、集成、稳定性)在 Agent 落地阶段比"会调 prompt"更值钱。要补的不是 Python,是 RAG 的检索原理、Agent 的状态机设计、以及评估方法。
给架构师:别在"选哪个框架"上纠结太久,先决定"Agent 在工作流里的位置" 。是当节点(工作流引擎 + Agent),还是当主体(Agent 框架 + 工具)?这个决定的影响比框架选型大十倍。另外,把"框架可替换性"写进架构约束——2026 年的 API 稳定性撑不起五年规划。
给技术负责人:如果团队要长期投入,优先选治理主体把 JVM 当主战场的项目(AgentScope、Koog、Embabel、LangChain4j),而不是"多语言同步维护"的大厂 SDK。前者的动力结构更可靠,后者随时可能因为商业优先级被降级——Semantic Kernel Java 就是前车之鉴。
十四、结语:Java 的机会不在"追上 Python",在"接管生产"
把这份清单从头看到尾,会有一种感觉:JVM 生态什么都有,但什么都不够好。
这个判断对了一半。在"模型能力探索"这件事上,Java 确实追不上 Python,也不该追。 新范式、新论文、新技巧,永远先在 Python 落地。
但 2026 年的企业需求已经变了。从"试试 Agent 能干什么"变成"把 Agent 塞进生产系统,还要能审计、能回滚、能算成本"。 这个转折点上,Java 的存量优势开始兑现:
- 虚拟线程解决了高并发长时 Agent 的并发模型
- Spring 生态解决了"AI 能力怎么和现有系统缝合"
- BPMN/工作流引擎解决了"确定性流程怎么和开放 Agent 共存"
- 强类型 + 编译期检查解决了"Agent 代码怎么过代码审查"
- 二十年的中间件经验解决了"状态、重试、幂等、可观测"
Java 不需要成为最好的 AI 语言,它只需要成为最可靠的 AI 落地语言。 从 2026 年 11 月这个时点看,这条路是走得通的——只是还需要有人把评估、可观测、RAG 管线这三块补上。
谁补上,谁就是下一个 Spring。
附录:完整清单速查表
Stars 为 2026-11-18 实测;版本为 Latest Release;"—" 表示无正式 release 或未取到。共 61 条,其中 #16 Semantic Kernel 为多语言仓库(星数含 C# 主仓),#60 HertzBeat 属"AI 增强型可观测"而非 AI 框架,#61 为补录,一并列出供参考。
| # | 项目 | Stars | 版本 | 层 | 一句话 |
|---|---|---|---|---|---|
| 1 | langchain4j | 13,420 | 1.23.0 | L1 | JVM 侧事实标准,双轨版本 |
| 2 | spring-ai | 9,657 | 2.0.2 | L1 | Spring 官方,工程化基线 |
| 3 | spring-ai-alibaba | 11,159 | 1.1.2.2 | L1 | 国内覆盖率最高,当前停滞 |
| 4 | agents-flex | 1,057 | 2.3.0 | L1 | 轻量,对标 Spring AI |
| 5 | solon-ai | 473 | 4.1.1 | L1 | 无 Spring 依赖,极轻 |
| 6 | ai4j | 441 | — | L1 | 支持 Java 8 |
| 7 | quarkus-langchain4j | 325 | 1.15.1 | L1 | Quarkus + native |
| 8 | langchain4j-community | 229 | — | L1 | 冷门集成集合 |
| 9 | agentscope-java | 6,407 | 2.0.5 | L2 | 分布式 Agent 运行时 |
| 10 | koog | 4,665 | 1.3.0 | L2 | Kotlin 多平台,强容错 |
| 11 | embabel-agent | 4,560 | 1.5.4 | L2 | GOAP,确定性规划 |
| 12 | atmosphere | 3,836 | 4.0.x | L2 | 跨框架运行时 + 治理 |
| 13 | langgraph4j | 2,113 | 1.9.10 | L2 | LangGraph 的 Java 版 |
| 14 | adk-java | 1,775 | 1.14.0 | L2 | Google code-first |
| 15 | JManus | ~1,100 | V4.10.12 | L2/L6 | Manus 的 Java 实现 |
| 16 | semantic-kernel | 28,786 | 维护模式 | L2 | 已并入 MS Agent Framework |
| 17 | java-sdk(MCP) | 3,774 | 2.2.0 | L3 | MCP 官方 Java SDK |
| 18 | a2a-java | 517 | 1.5.1.Final | L3 | A2A 官方 Java SDK |
| 19 | quarkus-mcp-server | 204 | 2.1.0.CR1 | L3 | 注解式 MCP server |
| 20 | sonarqube-mcp-server | 689 | — | L3 | 代码质量 MCP |
| 21 | jadx-ai-mcp | 3,015 | — | L3 | 反编译 MCP |
| 22 | ghidra-mcp | 6,271 | — | L3 | 逆向工程 MCP |
| 23 | opendataloader-pdf | 30,332 | — | L4 | PDF 转 AI-ready 数据 |
| 24 | vespa | 7,184 | — | L4 | AI 搜索平台 |
| 25 | pinot | 6,177 | — | L4 | 实时分析 + 向量 |
| 26 | djl | 4,861 | 0.40.0 | L4 | Java 深度学习 |
| 27 | tika | 4,153 | — | L4 | 文档抽取 |
| 28 | lucene | 3,613 | — | L4 | 检索底座 |
| 29 | jlama | 1,311 | — | L4 | 纯 Java 推理引擎 |
| 30 | memind | 906 | — | L4 | Agent 记忆引擎 |
| 31 | elasticsearch-java | 526 | — | L4 | ES 客户端 |
| 32 | milvus-sdk-java | 501 | — | L4 | Milvus 客户端 |
| 33 | opensearch-java | 163 | — | L4 | OpenSearch 客户端 |
| 34 | qdrant java-client | 100 | — | L4 | Qdrant 客户端 |
| 35 | weaviate java-client | 34 | — | L4 | Weaviate 客户端 |
| 36 | kestra | 30,269 | — | L5 | 声明式工作流 |
| 37 | flowable-engine | 9,661 | 8.0.0 | L5 | BPMN + AI |
| 38 | camel | 6,414 | — | L5 | 集成框架 + langchain4j |
| 39 | camunda | 4,367 | 8.10.9 | L5 | Agentic 编排平台 |
| 40 | liteflow | 3,911 | — | L5 | 规则编排 |
| 41 | bytechef | 1,063 | — | L5 | Agent 工作流自动化 |
| 42 | flink-agents | 494 | — | L5 | 流式 Agent |
| 43 | sdk-java(Temporal) | 444 | — | L5 | 持久化执行 |
| 44 | JeecgBoot | 48,511 | — | L6 | AI 低代码 |
| 45 | halo | 40,333 | — | L6 | 建站 + AI 插件 |
| 46 | Chat2DB | 28,365 | 5.3.8 | L6 | AI 数据库客户端 |
| 47 | ruoyi-ai | 5,838 | 3.1.0 | L6 | 企业 AI 平台脚手架 |
| 48 | ragent | 4,482 | — | L6 | Agentic RAG 实战 |
| 49 | langchain4j-aideepin | 1,404 | — | L6 | AI 应用平台 |
| 50 | langchat | 1,362 | — | L6 | LangChain4j 应用平台 |
| 51 | EnterpriseAgentFramework | 1,053 | — | L6 | 存量系统 AI 改造 |
| 52 | nexus-agent | 681 | — | L6 | 企业 Agent 平台 |
| 53 | spring-ai-agent-utils | 688 | — | L6 | Claude Code 风格工具 |
| 54 | FinSight-AI | 562 | — | L6 | 金融投研 Agent |
| 55 | EDDI | 394 | — | L6 | JSON 驱动 Agent |
| 56 | AI-Interview | 261 | — | L6 | AI 模拟面试 |
| 57 | openai-java | 1,568 | 4.108.0 | L0 | 官方 OpenAI SDK |
| 58 | deepseek4j | 751 | — | L0 | DeepSeek SDK |
| 59 | ollama4j | 509 | — | L0 | Ollama 客户端 |
| 60 | hertzbeat | 7,469 | — | L7 | AI 驱动的可观测 |
| 61 | supersonic | 5,200 | — | L6 | 腾讯音乐 ChatBI 平台(补录) |
说明与免责:Star 数与版本随仓库变化,本文数据仅代表 2026-11-18 这一时点。部分项目(如 Spring AI Alibaba)的维护状态存在社区争议,本文只陈述可核实的提交与发布事实,不推断官方意图。