2026 年 Java AI Agent 生态全景盘点:50+ Java 开源项目的分类、实测与选型判断

0 阅读35分钟

数据来源:GitHub REST API 与 Search API 实测,采集时间 2026 年 11 月 18 日;版本号取自各仓库 Latest Release。
收录范围:Java / Kotlin / JVM 语言实现,且与 LLM 应用或 Agent 直接相关的开源项目;纯商业产品、纯 Python/TS 项目、仅"支持 Java 调用"的云端 API 不计入。
全文 50+ 项目,按 7 层分类,末尾给选型决策树与冷水。

一、先看一个反常识的信号

如果要给 2026 年的 JVM AI 生态选一个最有代表性的项目,我的答案不是 Spring AI,也不是 LangChain4j,而是 Atmosphere——一个 3,836 星、名字听起来像 WebSocket 框架、README 第一句话却是「Portable AI agent runtime for the JVM」的东西。

它的核心卖点只有一句:

一个 @Agent 类,跑在 Spring AI、LangChain4j、Anthropic、Google ADK、Koog、Embabel、AgentScope、Semantic Kernel 等 12 个运行时之上。

这件事之所以值得放在开篇,是因为它暴露了 2026 年 JVM 生态的真实状态:

框架已经多到需要一层"适配器"来收敛了。

Python 生态的路径是"一个 LangChain 吃掉所有抽象,再分裂出 LangGraph、CrewAI、AutoGen 各自占位";JVM 生态走的却是另一条路——Spring 系、LangChain 系、Agent 原生系、大厂 SDK 系四股力量同时存在,谁也没能吃掉谁,于是生态自己长出了一层"跨框架可移植"的需求。

这不是坏事。它意味着 JVM 的 AI 生态已经越过了"能不能调模型"的原始阶段,进入了"怎么把 Agent 塞进已有企业系统"的工程阶段。但它也意味着:你今天选的框架,两年后大概率还在,但它的 API 会变。

下面这张图是本文的分类骨架。七层,从模型接入到应用平台,越往上越贴近业务,越往下越贴近基础设施。

flowchart BT
    L6["L6 应用 / 平台层<br/>JeecgBoot · Chat2DB · RuoYi AI · LangChat · JManus"]
    L5["L5 集成 / 工作流层<br/>Camel · Flink Agents · Camunda · Flowable · Kestra · Temporal"]
    L4["L4 数据 / 检索 / 推理层<br/>Tika · Lucene · Vespa · Milvus · Qdrant · JLama · DJL"]
    L3["L3 协议层<br/>MCP Java SDK · A2A Java SDK · Quarkus MCP"]
    L2["L2 Agent 编排 / 运行时层<br/>AgentScope Java · Embabel · Koog · ADK Java · LangGraph4j · Atmosphere"]
    L1["L1 应用框架层<br/>Spring AI · LangChain4j · Solon AI · Agents-Flex · ai4j"]
    L0["L0 模型接入 / SDK 层<br/>openai-java · deepseek4j · ollama4j · 各家 provider"]
    L0 --> L1 --> L2 --> L3
    L1 --> L4
    L2 --> L5
    L3 --> L6
    L5 --> L6
    L4 --> L6

图 1:JVM AI 生态的七层结构。注意 L2 与 L1 是并列而非包含关系——这是 Java 与 Python 最大的结构差异。

二、口径说明:为什么"Java AI 项目"很难数清

在开始罗列之前,必须先说清楚三件事,否则这份清单会变成误导。

第一,GitHub 的 language 字段会骗人。 我最初按 topic:llm language:Java 扫出 2,058 个仓库、按 topic:ai-agents language:Java 扫出 782 个,但逐个核对后发现大量误标:科大讯飞的 Astron Agent(8.9k 星)被标为 Java,实际核心是 Python + TypeScript,Java 可能只是某个 SDK 或引擎组件;Opik(23.4k 星)同样被标为 Java,实际是 Python/TS 项目。本文已剔除这类误标,只保留主语言确为 JVM 系的项目。

第二,Star 数在 2026 年已经严重通胀。 同期 Python 侧的 REA 有 41.5 万星、Hermes Agent 25 万星,而 JVM 侧最高的 LangChain4j 只有 1.34 万。这不是质量差距,是注意力差距——JVM 开发者习惯"用但不 star"。所以本文的排序只作参考,判断项目活跃度请看 pushed_at 和 release 节奏,那比 star 诚实得多。

第三,"框架"和"应用"的边界正在消失。 JManus 既是框架也是产品,LangChat 既是脚手架也是平台。我在分类时按主要使用方式归位,并在点评里注明它的双重身份。

按这个口径,60 个项目落到 7 层,各层的成熟度差异极大——这是本文最重要的一张表,因为它决定了你该把精力花在哪:

层主题条目代表项目成熟度判断
L6应用 / 平台14JeecgBoot、Chat2DB、RuoYi AI、LangChat分化严重:工具型(Chat2DB)已成熟,平台型高度同质化
L5集成 / 工作流8Camunda、Camel、Kestra、Flowable成熟,正在被重新定义:流程引擎集体转向 Agent 编排
L4数据 / 检索 / 推理13opendataloader-pdf、Vespa、DJL、Tika组件成熟,管线缺失:零件齐全,没人给你装成整机
L3协议6MCP Java SDK、A2A Java SDK成熟且与 Python 同步:JVM 唯一不落后的层
L2Agent 编排 / 运行时8AgentScope、Embabel、Koog、ADK、Atmosphere快速演化,API 不稳定:机会最多,坑也最多
L1应用框架8Spring AI、LangChain4j成熟,已进入工程化阶段:选型基本收敛
L0模型接入3openai-java、deepseek4j成熟,官方 SDK 正在收敛市场
横切可观测 / 治理1HertzBeat近乎空白:详见第十二节"冷水"

三、L0:模型接入层——最不性感,但最不该自己写

这一层是"把 HTTP 请求封装成 Java 对象"的活儿,技术含量低,但踩坑率高(流式解析、tool call 增量拼接、重试、超时、token 计数)。结论先行:除非你要接一个冷门国产模型,否则不要自己写。

项目Stars最新版本出品方定位与点评
openai-java1,568v4.108.0OpenAI 官方官方维护,Kotlin 实现但完整支持 Java 调用。Responses API、流式、结构化输出齐全。接 OpenAI 及兼容端点(DeepSeek、通义、豆包、vLLM)的首选底座,比社区 SDK 少踩一半的协议坑
deepseek4j751—pig-mesh 社区国内使用最广的 DeepSeek Java SDK,对 reasoning_content 的流式处理做得比通用 SDK 细。适合只接 DeepSeek 的轻量场景
ollama4j509—社区Ollama 的 Java 客户端,本地跑模型做 PoC 够用。生产环境的模型管理能力弱,别指望它

这一层的真实格局:官方 SDK 正在吃掉社区 SDK。两年前 Java 开发者还在纠结 TheoKanning/openai-java(4,704 星,已于 2024 年归档),现在官方 openai-java 已经把这条路封死。这是个好信号——说明模型厂商开始把 JVM 当正经客户端了。

四、L1:应用框架层——Java AI 的主战场

这一层解决的是"怎么在 Java 里把模型、工具、向量库、记忆拼起来"。它是 JVM AI 生态里竞争最激烈、也最成熟的一层。

项目Stars最新版本出品方定位与点评
LangChain4j13,420v1.23.0社区(LangChain4j 团队)JVM 侧事实标准。API 设计最贴近 Python LangChain,ChatModel / EmbeddingStore / Tool / Memory 抽象完整。注意它的双轨版本策略:核心线(core / open-ai / http-client)走稳定版,实验线(agentic / mcp / guardrails / spring-boot-starter)只发 -betaN,且必须成对升级(1.23.0 配 1.23.0-beta33)。用错版本组合是最常见的依赖地狱来源
Spring AI9,657v2.0.2Spring 官方2026 年 6 月 12 日在 Spring I/O 发布 2.0 GA,配套 Spring Boot 4 / Framework 7 / Jackson 3,JDK 21 起步。2.0 是一次"收紧"而非"扩张" :ChatClient 统一入口、工具调用接口重做、MCP 原生集成(@McpTool)、JSpecify 空安全、结构化输出带自纠错。当前 2.0.2 是稳定基线,2.1.0-RC1 已出,2.1 将引入 Session API 并废弃 ChatMemory
Spring AI Alibaba11,159v1.1.2.2 (2.0.0-M1.1)阿里云国内教程覆盖率最高的 Java AI 框架,Graph 编排 + Nacos 集成 + 通义/百炼适配做得最顺。但必须如实说:它目前处于事实性停滞——稳定版停在 1.1.2.2,2.0 只有 2026 年 6 月的 M1.1 预发布,仓库主干最后提交为 2026-10-07。社区已有"停更"讨论,官方未正面回应。选它之前请先评估这个风险
Agents-Flex1,057v2.3.0国产社区轻量路线,对标 Spring AI 但不绑 Spring。RAG、MCP、Skills、Text2SQL、Subagent、TTS/STT 一应俱全,文档中文友好。适合中小团队快速起量
Solon AI473v4.1.1国产社区(Solon 生态)极致轻量,无 Spring 依赖,启动快、内存低。LLM-tool、Skill、RAG、MCP、Agent-ReAct 都支持。信创/嵌入式/低配容器场景的实用选择,生态规模小是主要短板
ai4j441—国产社区明确支持 Java 8+ ,统一接入 OpenAI / Anthropic / DashScope / 豆包 / DeepSeek。老系统(JDK 8)想加 AI 能力时的现实解法,代价是拿不到虚拟线程红利
Quarkus LangChain4j325v1.15.1QuarkiverseLangChain4j 的 Quarkus 原生扩展,编译期注入 + GraalVM native image。冷启动敏感场景(Serverless、FaaS)的唯一正经答案
langchain4j-community229—社区官方主仓放不下的集成都挪到这里(各种国产模型、向量库、文档解析器)。找冷门集成先来这里

4.1 这一层的三条暗线

暗线一:Spring AI 与 LangChain4j 不是"二选一",而是"分层"。 2026 年越来越多的项目同时引入两者——用 Spring AI 管 ChatClient 和自动配置,用 LangChain4j 的 agentic 模块做编排。Atmosphere 直接把这条实践产品化了(同时提供两个适配器)。如果你的团队已经在 Spring Boot 上,别为了"纯正"去绕开 Spring AI。

暗线二:实验模块的 beta 状态是最大工程风险。 LangChain4j 的 agentic、mcp、guardrails 至今只发 beta;Spring AI 2.1 的 Session API 会废弃 ChatMemory。这意味着 2026 年写的 Agent 代码,2027 年大概率要改一遍。 应对方式只有一个:把框架调用收敛到自己的薄封装层,别让它渗透到业务代码。

暗线三:国产框架的"轻量"路线在抬头。 Agents-Flex、Solon AI、ai4j 的共同点是不绑 Spring。原因很实际——很多企业的 AI 需求是一个独立服务、一个边端程序、一个老系统插件,扛不动 Spring Boot 4 的体量。这条线在 2026 年增长明显,但生态规模还撑不起"主框架"的位置。

五、L2:Agent 编排与运行时层——2026 年真正的主战场

如果说 L1 解决"调模型",L2 解决的是"让模型自己跑起来"。这一层是 2026 年 JVM 生态变化最剧烈的地方,也是路线分歧最尖锐的地方。

项目Stars最新版本出品方定位与点评
AgentScope Java6,407v2.0.5阿里通义实验室JVM 侧最完整的"分布式 Agent 运行时" 。2025 年 12 月开源 1.0,2026 年 6-7 月发布 2.0,架构重做为 Harness / Runtime / Workspace / Skill 四层,内置 9 种多智能体协作模式,支持状态持久化、流式取消、沙箱工作空间、A2A 互操作。它的野心不是"框架",是"底座" ——对标的是 Python 的 AgentScope + Runtime,而不是 LangChain
Koog4,665v1.3.0JetBrainsKotlin 优先的 JVM Agent 框架,可跑 JVM / Android / iOS / WasmJS。图式工作流 + 强容错是它的招牌:工具抛异常不崩、可重试、可回滚、可取消。JetBrains 把它定位成"Spring AI 负责连接,Koog 负责把能力变成可靠系统",这个分工说得很准
Embabel4,560v1.5.4Rod Johnson(Spring 之父)最"反潮流"也最值得研究的项目。核心是 GOAP(Goal-Oriented Action Planning):不让 LLM 决定每一步,而是由代码定义领域动作、前置条件、成本,规划器在类型安全的动作空间里搜索路径。Rod 的原话是"你不能凭感觉(vibe-code)编写严肃软件"。它赌的是"企业要确定性",而不是"模型会越来越聪明"
Atmosphere3,8364.0.xAsync-IO跨框架可移植运行时。一个 @Agent 注解,classpath 上有什么适配器就跑什么(12 种);统一暴露 MCP / A2A / AG-UI 端点;强项是实时传输 + 治理——WebSocket/SSE/gRPC 共享一条 broadcaster,策略准入、HITL 持久化审批、PII 重写、成本封顶、plan-and-verify(带 SMT 求解器验证工具调用序列)。它填补的是"Java 没有 Agent 网关"这个空白
LangGraph4j2,113v1.9.10社区(bsorrentino)LangGraph 的 Java 移植,图编排 + checkpoint + human-in-the-loop + 子图。从 Python LangGraph 迁移过来的团队最省心的选择,代价是生态插件远不如原版
Google ADK Java1,775v1.14.0Googlecode-first 的 Agent 工具箱,与 Python/Go 版同构。多 Agent 层级、工具、评估、部署到 Vertex AI Agent Engine 一条龙。强绑定 GCP 是它的护城河也是它的天花板;不过纯本地跑也完全可行
JManus~1,100V4.10.12阿里云 Spring AI Alibaba 团队Manus 的纯 Java 实现,后来转向"Agent 开发平台"。PLAN-ACT 模式 + Func-Agent(精确控制每一步)+ 可视化配置 + 50+ 预置工具 + HTTP 调用接口。它更像产品而非库,适合想要"开箱即用多 Agent 控制台"的团队
Semantic Kernel for Java28,786(全仓,C# 为主)维护模式Microsoft必须单独说:2025 年 10 月微软把 AutoGen 与 Semantic Kernel 合并为 Microsoft Agent Framework(2026 年 4 月 GA 1.0),SK 全线转入维护模式,只修安全漏洞。Java 版随之失去独立演进。它是理解"插件 + 函数调用"范式的好教材,但不建议作为 2026 年的新项目选型

5.1 三条路线的根本分歧

把上面这些项目排开,你会发现它们不是"功能多少"的差别,而是对"谁来决策"这个问题的回答不同。

flowchart LR
    Q["下一步做什么<br/>由谁决定?"]
    Q --> A["LLM 决定<br/>AgentScope Java<br/>ADK Java<br/>LangGraph4j<br/>Koog"]
    Q --> B["代码决定<br/>Embabel<br/>Camunda / Flowable<br/>Atmosphere plan-and-verify"]
    Q --> C["不决定,做适配<br/>Atmosphere<br/>(把选择权留给团队)"]
    A --> A1["优势:开放任务、探索性强<br/>代价:不确定、难测试、成本不可控"]
    B --> B1["优势:可审计、可回归、成本可算<br/>代价:开放性弱、领域建模成本高"]
    C --> C1["优势:不锁死、渐进迁移<br/>代价:多一层抽象、性能损耗"]

图 2:JVM Agent 框架的三条路线。这不是技术优劣,是业务确定性需求的映射。

我的判断是:这两条路线会在 2027 年合流,而不是一方胜出。 理由是企业的真实需求本来就是分层的——客服问答要开放(LLM 决定),订单处理要确定(代码决定),而同一个系统里两者都有。AgentScope 2.0 引入的 Skill/Workspace 分层、Embabel 支持在 GOAP 里嵌入 LLM 子目标、Atmosphere 的 plan-and-verify,本质上都在往中间靠。

谁能先把"开放任务"和"确定性流程"在同一个运行时里缝好,谁就赢下企业市场。 目前最接近的是 AgentScope Java(分布式运行时 + 多模式协作)和 Atmosphere(治理 + 可移植),但都还没到"开箱即用"的程度。

5.2 一个被低估的分水岭:长时运行

2026 年 JVM Agent 框架真正的技术分水岭,不是"支持多少种协作模式",而是能不能长时运行。

一个跑 30 秒的 demo Agent 和一个跑 3 小时、中间要断点续跑、要人工审批、要跨重启恢复状态的 Agent,是两个物种。后者需要的不是 prompt 工程,而是:

  • 状态持久化(checkpoint、事件溯源)
  • 取消语义(流式取消不 stall、工具调用可中断)
  • 幂等与重试(工具调两次不能重复下单)
  • 资源隔离(沙箱工作空间、文件系统队列)

AgentScope Java 2.0 的 2.0.x 维护版本几乎全在修这类问题(v2.0.5 的 60 来个修复里,状态竞态、流式取消、沙箱静默失败占了大头);Atmosphere 把"持久会话 + 断线重连安全回放"做成核心卖点;Temporal / Camunda 这类工作流引擎则从另一侧切入。

这一层才是 Java 真正该赢的地方。 因为长时运行的敌人是"进程挂了怎么办""状态存哪""怎么审计"——这些是 JVM 二十年企业级中间件经验的正面战场,而不是模型能力的比拼。

六、L3:协议层——Java 唯一不落后的地方

如果只看模型和 Agent 抽象,Java 落后 Python 一到两年;但在协议层,Java 几乎是同步的。原因很简单:协议是语言无关的,而 Java 的工程能力(强类型、代码生成、成熟的 HTTP/SSE 栈)在实现协议时反而是优势。

项目Stars最新版本出品方定位与点评
MCP Java SDK3,774v2.2.0Anthropic 生态 / 官方MCP 的官方 Java 实现,server + client 双端,支持 stdio / SSE / streamable HTTP。2.x 对应 2026 年的 MCP 规范版本,会话协议与无状态模式都跟上了。JVM 侧接工具生态的必经之路
A2A Java SDK517v1.5.1.FinalGoogle 捐赠 / Linux 基金会Agent2Agent 协议的官方 Java SDK。Agent Card 发现、任务生命周期、流式事件。跨语言 Agent 互操作的标准答案,配合 AgentScope / ADK 使用最顺
Quarkus MCP Server204v2.1.0.CR1Quarkiverse用注解把 Quarkus 的 bean 暴露成 MCP server,编译期生成,native image 友好。给已有 Quarkus 服务"加一个 MCP 门"的最低成本方案
SonarQube MCP Server689—SonarSource 官方把代码质量与安全扫描暴露给 AI Agent。这是"Java 生态把自家工具 MCP 化"的典型样本,同类还有 JADX、Ghidra 的 MCP 插件
jadx-ai-mcp3,015—社区JADX(Android 反编译)的 MCP 插件
ghidra-mcp6,271—社区Ghidra 的 MCP Server,200+ 逆向工具

这里有个容易被忽略的事实:MCP 生态里星数最高的 Java 项目,不是框架,而是逆向工程工具(ghidra-mcp 6.3k、jadx-ai-mcp 3.0k)。这说明 JVM 在"把存量桌面工具接进 Agent"这件事上有独特位置——Ghidra、JADX、Burp、IntelliJ 这些工具本身就是 Java 写的,加一层 MCP 比重新实现便宜得多。这是 Java 生态一条被低估的差异化路径。

七、L4:数据、检索与推理层

Agent 的上限由模型决定,下限由检索决定。这一层 Java 的成熟度其实不差——差的是"开箱即用的 RAG 管线"。

项目Stars最新版本定位与点评
opendataloader-pdf30,332—本轮最大的意外发现。PDF 解析成 AI-ready 数据(结构化 JSON、表格、阅读顺序),Java 实现,Apache 2.0。3 万星说明"文档解析"才是 RAG 的真痛点——比任何 Agent 框架都刚需
Vespa7,184—老牌 AI 搜索平台,向量 + 倒排 + 结构化过滤 + 排序表达式一体。大规模检索场景的重武器,运维复杂度也成正比
Apache Pinot6,177—实时分析数据库,已支持向量检索。适合"实时指标 + 语义检索"混合查询
DJL4,861v0.40.0Java 深度学习框架,引擎无关(PyTorch / TensorFlow / ONNX / MXNet)。在 JVM 里跑 embedding、rerank、小模型推理的成熟方案
Apache Tika4,153—文档元数据与文本抽取的万金油,1000+ 格式。RAG 预处理的默认起点
Apache Lucene3,613—向量检索(HNSW)+ 全文检索的底座。Elasticsearch、Solr、OpenSearch 都建在它上面
JLama1,311—纯 Java 的 LLM 推理引擎,用 Panama Vector API 做 SIMD 加速。意义不在性能(打不过 llama.cpp),而在"零 native 依赖、可嵌入、可 GraalVM 编译"
memind906—Java 的 Agent 记忆与上下文引擎,自我演化式记忆。JVM 侧少见的"记忆层"专项项目
Elasticsearch Java Client526—官方客户端,向量检索(dense_vector / kNN)支持完整
Milvus Java SDK501—官方 SDK
OpenSearch Java163—官方客户端
Qdrant Java Client100—官方客户端
Weaviate Java Client34—官方客户端,规模最小

这一层的判断:向量库客户端 Java 侧全都有官方维护,这点不用担心。真正的短板在RAG 管线的"最后一公里" ——分块策略、混合检索、rerank、引用溯源,Python 有 LlamaIndex 这种一站式方案,Java 只能自己拼(Spring AI 的 QuestionAnswerAdvisor 和 LangChain4j 的 RetrievalAugmentor 是当前最好的两个起点,但都还称不上"管线")。

八、L5:集成、工作流与运行时

这一层是 Java 的传统优势区,也是它相对 Python 最不该输的地方。

项目Stars最新版本定位与点评
Kestra30,269—声明式工作流编排平台,Java 实现,有 AI/LLM 插件。 "编排一切"的定位比 Agent 框架更宽,适合把 Agent 当成流程里的一个节点
Flowable9,6618.0.0BPMN 引擎,8.0 开始提供 AI/Agent 集成。把 Agent 塞进审批流的现实路径
Apache Camel6,414—350+ 连接器 + camel-langchain4j 组件。企业集成(EIP)的老牌王者, "让 Agent 调 SAP / 调 MQ / 调 FTP"这件事没人比它更熟
Camunda4,367v8.10.9注意它的自我定位已经改成 "Agentic Orchestration Platform" ——从 BPM 引擎转向 Agent 编排。这个转身很有代表性:流程引擎厂商认为 Agent 是流程的一种节点
LiteFlow3,911—国产规则/组件编排引擎,规则 EL 表达力强。 "AI 节点 + 业务节点"混排的轻量方案
ByteChef1,063—开源 AI Agent + 工作流自动化,可自托管或嵌入 SaaS。定位接近 n8n 的 Java 版
Flink Agents494—基于 Flink 的流式 Agent 框架,事件驱动、有状态、Exactly-Once。实时数据流上跑 Agent 的唯一正经方案,Apache 孵化中,成熟度尚早
Temporal Java SDK444—持久化执行引擎的 Java SDK。长时 Agent 的"状态与重试"外包给 Temporal 是越来越流行的架构,比自己在框架里造 checkpoint 靠谱

这一层藏着一个重要趋势:2026 年企业落地 Agent 的主流形态,不是"一个 Agent 框架跑所有事",而是"工作流引擎 + Agent 节点" 。Camunda 改定位、Flowable 8.0 加 AI、Kestra 加 LLM 插件、Camel 加 langchain4j 组件,四家不约而同。原因很实在——企业已经有流程引擎、有审批、有权限、有审计,Agent 只要能当一个节点就够了,没必要推翻重来。

如果你是 enterprise 架构师,我的建议是:优先考虑"工作流引擎 + Agent 节点",而不是"Agent 框架 + 自己造工作流"。 前者你继承的是二十年的流程治理能力,后者你要从零实现。

九、L6:应用与平台层——最能看出"谁在真用"

框架看野心,应用看需求。这一层的项目最能反映 JVM 开发者在 2026 年真正想做什么。

项目Stars最新版本定位与点评
JeecgBoot48,511—AI 低代码平台,48k 星。权限、多租户、工作流、报表、大屏、AI 知识库开箱即用。 "AI 生成业务代码"这条路在国内最成熟的落地,也是 JVM 侧星数最高的 AI 相关项目
Halo40,333—建站工具,AI 插件生态完整(写作辅助、摘要、向量检索)。内容场景 + AI 的典型样本
Chat2DB28,365v5.3.8AI 驱动的数据库客户端,自然语言转 SQL、SQL 解释与优化。 "Text2SQL 做成一款 IDE" ,是 JVM 侧最成功的 AI 工具型产品之一
SuperSonic5,200—腾讯音乐开源的 ChatBI 平台:语义层建模 + Text2SQL + 多轮对话 + 指标归因。企业级 ChatBI 的完整参考实现,语义层设计比"直接让 LLM 写 SQL"靠谱得多
RuoYi AI5,838v3.1.0基于 RuoYi-Vue-Plus 的企业级 AI 平台:多模型管理、知识库、RAG、工作流、绘画。国内 Java 团队做私有化 AI 平台最常见的起点。定位是"脚手架"而非"平台",别指望它开箱即对标 Dify
ragent4,482—企业级 Agentic RAG 智能体实战项目:文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用、深度思考。教学与工程价值都很高,适合当 RAG 全链路的参考实现读
langchain4j-aideepin1,404—AI 应用平台:聊天、绘画、知识库、工作流、MCP 服务市场、语音输入输出、长期记忆。功能密度高,适合做产品原型
LangChat1,362—Java + LangChain4j 生态的 AI Agent 应用平台,多模型、Agent、知识库 RAG、Skill。前后端分离,国内社区活跃
EnterpriseAgentFramework1,053—ReachAI 企业级智能体平台,主打"在 OA / ERP / CRM 原系统里查数据、填表单、办业务"。RPA 式 Agent 的 Java 实现,思路务实
nexus-agent681—企业级 Agent 平台:智能对话、文档问答、联网搜索、RAG、MCP、Skills,三层执行器 + 双通道混合检索
spring-ai-agent-utils688—Spring AI 社区的"Claude Code 风格"工具与 Agent Skills 库。把编码 Agent 的那套工具范式搬到 Spring AI 上,很值得一读
FinSight-AI562—金融投研 Agent:弹性工作流、证据锚定 RAG、版本化报告。垂直场景的完整样本
EDDI394—配置驱动的 Agent 引擎:用 JSON 定义 Agent、多 Agent 编排、对话管理。 "低代码 Agent"的另一种解法
AI-Interview261—AI 模拟面试系统,数字人面试官 + 追问 + 逐题打分,Java 21 + Spring

从这一层能读出三个真实需求:

  1. "私有化知识库 + 多模型管理"是最大公约数。 RuoYi AI、LangChat、aideepin、nexus-agent 的功能列表高度重合,说明这是企业愿意付钱的需求。
  2. Text2SQL / ChatBI 是 JVM 的甜点区。 Chat2DB 28k 星、SuperSonic 5.2k 星不是偶然——数据库、SQL、JDBC 本来就是 Java 的地盘,把 LLM 接上去是顺水推舟。而且这两个项目都证明了同一件事:语义层比 prompt 更重要。
  3. "AI 改造存量系统"比"新建 AI 应用"更热。 EnterpriseAgentFramework 的定位(在 OA/ERP/CRM 里办事)比任何"通用 Agent 平台"都更贴近中国企业的实际预算。

十、五条主线:2026 年 JVM AI 生态到底发生了什么

罗列完了,该给判断了。我把 2026 年 JVM 侧的变化归纳成五条主线。

主线一:Spring AI 2.0 把 Java AI 拉到了"工程基线"

2026 年 6 月 12 日 Spring AI 2.0 GA,配套 Spring Boot 4 / Framework 7 / Jackson 3,这是JVM AI 从"能用"到"敢上生产"的分界线。

它做的不是加功能,而是收紧:ChatClient 统一入口、工具调用接口重做、JSpecify 空安全、MCP 原生集成、结构化输出带自纠错、虚拟线程默认可用。这些改动让"AI 代码"第一次能通过企业的那套代码审查——类型安全、可测试、可观测。

代价是迁移成本。 1.x 到 2.0 的破坏性变更不小,尤其是工具调用和 advisor 链。我见到不少团队卡在 1.x 不敢升,这在 2026 年下半年会变成一个越来越贵的决定。

主线二:虚拟线程让 Java 写 Agent 的姿势终于对了

Agent 的本质是"大量阻塞等待"——等模型返回、等工具执行、等人工审批。传统 Java 用线程池扛,几百个并发就顶到天花板;用 Reactor 扛,代码可读性崩盘。

虚拟线程(JDK 21 正式,JDK 25 LTS 成熟)把这个问题解掉了:一个 Agent 会话一个虚拟线程,用阻塞式代码写 ReAct 循环,几万并发不是问题。Spring AI 2.0 和 AgentScope Java 都在这上面做了深度适配。

这是 JVM 相对 Python 的结构性优势——Python 的 asyncio 模型在"高并发 + 大量阻塞式工具调用"混合的场景下,工程复杂度明显更高(free-threading 虽在推进,但生态迁移远未完成)。如果你要做的是"一万个用户各跑一个 Agent"的产品,Java 现在真的比 Python 合适。

主线三:Spring AI Alibaba 的事实性停滞,是生态最大的不确定性

必须单独说这件事,因为它影响的人最多。

截至 2026 年 11 月 18 日,Spring AI Alibaba 的稳定版停在 1.1.2.2,2.0 只有 2026 年 6 月 25 日的 2.0.0-M1.1 预发布,仓库主干最后提交是 2026-10-07。社区从 9 月起就在讨论"是否停更",有分析认为团队资源转向了 AgentScope Java,也有说法是"要换心脏"(架构重写)。官方没有给出明确时间表。

这件事的杀伤力不在于"少了一个框架",而在于"锁死了一批项目"。 国内大量 Java AI 教程、毕业设计、企业 PoC 都是基于 Spring AI Alibaba 的 Graph 模块写的,一旦它停在 1.1.x,这些代码就同时失去了 Spring AI 2.x 的升级路径和 Alibaba 的模型适配更新。

我的建议:新项目不要把它当唯一依赖。要用 Graph 编排,优先考虑 LangGraph4j 或 AgentScope Java;要用通义/百炼的模型适配,直接用 Spring AI 的 OpenAI 兼容端点也能跑。把它当"可替换的适配层",而不是"地基"。

主线四:微软退出 JVM 的 Agent 框架竞赛

Semantic Kernel 2025 年 10 月与 AutoGen 合并为 Microsoft Agent Framework,2026 年 4 月 GA 1.0,SK 全线转维护模式。Java 版因此失去了独立演进的能力。

这不是小事。它说明一个判断: "大厂做一个多语言 SDK,让各语言版本同步跟进"这条路,在 Agent 时代走不通了。 Agent 框架的演进速度太快,多语言同步的成本太高,微软选择把资源集中到 .NET 主战场。

对 Java 开发者的启示很直接:别指望"某家大厂会一直维护 Java 版" 。Google 的 ADK Java 目前很活跃(v1.14.0),但它同样是"三语言同步"模式,长期能不能维持,要看 Google Cloud 的商业回报。选型时把"治理主体是否把 JVM 当主战场"作为一个硬指标——阿里(AgentScope)、JetBrains(Koog)、Rod Johnson(Embabel)这三家,JVM 就是他们的全部,动力结构更稳。

主线五:协议收敛,Java 第一次跟上了标准

MCP Java SDK 到 2.2.0,A2A Java SDK 到 1.5.1.Final,两个官方 SDK 都跟上了 2026 年的规范版本。加上 Spring AI 2.0 的 @McpTool、Quarkus 的 MCP 扩展、LangChain4j 的 mcp 模块,JVM 侧接工具生态的能力已经和 Python 拉平。

这是 2026 年最被低估的进步。两年前 Java 接一个新工具要写一堆适配代码,现在只要那个工具提供 MCP server,McpToolProvider 挂上去就能用。注意这里说的是"接入能力"拉平,不是"工具丰富度"拉平——现成的 Java 原生 Agent 工具仍然远少于 Python,但至少你不再被协议挡在门外了。

十一、选型决策树

说了这么多,落到"我该用哪个"。下面这棵树按你已有的技术栈和业务确定性要求分支,不按 star 排。

flowchart TB
    S["你的场景"] --> Q1{"已有 Spring Boot<br/>单体/微服务?"}
    Q1 -->|是| Q2{"要做的是<br/>RAG / 客服 / 内容生成?"}
    Q1 -->|否| Q3{"JVM 栈是什么?"}

    Q2 -->|是| A1["Spring AI 2.0<br/>+ ChatClient + Advisor<br/>(别自己造轮子)"]
    Q2 -->|否,要长时多 Agent| A2["AgentScope Java<br/>分布式运行时 + 状态持久化"]
    Q2 -->|否,要确定性流程| A3["Embabel 或<br/>Camunda/Flowable + Agent 节点"]

    Q3 -->|Quarkus / native| A4["Quarkus LangChain4j<br/>编译期 + GraalVM"]
    Q3 -->|Kotlin / 多平台| A5["Koog<br/>JVM/Android/iOS/Wasm"]
    Q3 -->|无框架 / 极轻量| A6["Solon AI / Agents-Flex<br/>/ ai4j(JDK 8)"]
    Q3 -->|GCP / Vertex| A7["Google ADK Java"]

    A1 --> X{"要跨框架可移植<br/>或需要 Agent 网关?"}
    A2 --> X
    A3 --> X
    X -->|是| A8["Atmosphere<br/>@Agent + MCP/A2A/AG-UI + 治理"]
    X -->|否| Z["保持简单,别加层"]

图 3:选型决策树。注意最后一个分支——大多数团队不需要 Atmosphere 那一层,加抽象是有成本的。

几个具体场景的直接答案:

场景推荐理由
已有 Spring Boot 系统,加 AI 能力Spring AI 2.0自动配置、Actuator、Security 全都现成,迁移成本最低
从 Python LangChain 迁过来LangChain4jAPI 语义最接近,团队心智负担最小
从 Python LangGraph 迁过来LangGraph4j图、checkpoint、中断恢复的概念一一对应
要做"每个用户一个长跑 Agent"AgentScope Java状态持久化、流式取消、沙箱是刚需,它做得最完整
金融/政务,要求可审计可回滚Embabel 或 BPMN 引擎规划在代码里,路径可枚举、可测试、可解释
Serverless / 冷启动敏感Quarkus LangChain4jnative image,启动毫秒级
Kotlin 团队 / 要上移动端Koog唯一真正跨 JVM + iOS + Wasm 的选择
老 JDK 8 系统ai4j明确支持 Java 8,代价是放弃虚拟线程
要私有化 AI 平台,快速交付RuoYi AI / LangChat脚手架齐全,改造成本低于自研
要 Agent 网关 / 多渠道 / 人工审批Atmosphere实时传输 + 治理在关键路径上,这是它唯一的定位

十二、冷水:JVM 生态的五个真实短板

盘点文最容易写成软文。这一节专门说不好听的。

短板一:评估(Eval)几乎空白。 Python 有 Ragas、DeepEval、LangSmith、Opik,Java 侧没有一个形成气候的 Agent 评估框架(零星的小库有,但没人拿它做生产回归)。你要做回归测试,只能自己写断言、自己接 LLM-as-judge。这是 2026 年 JVM AI 生态最大的洞——没有评估,就没有工程化。

短板二:可观测靠外部拼。 Micrometer + OpenTelemetry 的 GenAI 语义约定能用,但"Agent 轨迹"这种特有结构(多轮、工具调用树、token 归因)没有 Java 原生方案。Atmosphere 的 lineage、Spring AI 的 observability 是当前最好的两个,但都还在早期。生态里唯一以"AI 驱动可观测"为定位的 Java 项目是 HertzBeat(7,469 星),但它解决的是"用 AI 观测系统",不是"观测 AI Agent"——这两件事不是一回事。

短板三:模型 provider 覆盖永远慢半拍。 新模型发布,Python SDK 当天可用,Java 要等社区适配。这个差距不会消失,只会缩小。应对方式:优先用 OpenAI 兼容端点,绝大多数国产模型都支持,能绕开 90% 的适配等待。

短板四:beta 模块的不稳定是系统性的。 LangChain4j 的 agentic/mcp/guardrails 只发 beta,Spring AI 2.1 要废弃 ChatMemory,AgentScope 2.0 刚重写完架构。2026 年写 JVM Agent 代码,必须假设 API 会变。 这不是某一家的问题,是整个生态还在快速演化期的必然。

短板五:社区规模差一到两个数量级。 同一天用同一口径实测 GitHub topic:ai-agents 的仓库数:Python 58,543 个、TypeScript 34,010 个、Java 只有 782 个。当然,这个数字有夸大成分——Python 社区更爱打 topic,Java 项目常常什么都不标——但 75 倍的差距不可能全靠标注习惯解释。LangChain4j 1.34 万星 vs LangChain 14.6 万星,也是同一个信号。后果是:遇到冷门问题,搜不到答案;想找轮子,得自己造。 这个差距在 2026 年没有缩小的迹象。

十三、给三类人的建议

给 Java 后端工程师:不用转 Python。2026 年 JVM 侧的框架成熟度已经够你做 90% 的企业 AI 需求,而且你的优势(事务、并发、集成、稳定性)在 Agent 落地阶段比"会调 prompt"更值钱。要补的不是 Python,是 RAG 的检索原理、Agent 的状态机设计、以及评估方法。

给架构师:别在"选哪个框架"上纠结太久,先决定"Agent 在工作流里的位置" 。是当节点(工作流引擎 + Agent),还是当主体(Agent 框架 + 工具)?这个决定的影响比框架选型大十倍。另外,把"框架可替换性"写进架构约束——2026 年的 API 稳定性撑不起五年规划。

给技术负责人:如果团队要长期投入,优先选治理主体把 JVM 当主战场的项目(AgentScope、Koog、Embabel、LangChain4j),而不是"多语言同步维护"的大厂 SDK。前者的动力结构更可靠,后者随时可能因为商业优先级被降级——Semantic Kernel Java 就是前车之鉴。

十四、结语:Java 的机会不在"追上 Python",在"接管生产"

把这份清单从头看到尾,会有一种感觉:JVM 生态什么都有,但什么都不够好。

这个判断对了一半。在"模型能力探索"这件事上,Java 确实追不上 Python,也不该追。 新范式、新论文、新技巧,永远先在 Python 落地。

但 2026 年的企业需求已经变了。从"试试 Agent 能干什么"变成"把 Agent 塞进生产系统,还要能审计、能回滚、能算成本"。 这个转折点上,Java 的存量优势开始兑现:

  • 虚拟线程解决了高并发长时 Agent 的并发模型
  • Spring 生态解决了"AI 能力怎么和现有系统缝合"
  • BPMN/工作流引擎解决了"确定性流程怎么和开放 Agent 共存"
  • 强类型 + 编译期检查解决了"Agent 代码怎么过代码审查"
  • 二十年的中间件经验解决了"状态、重试、幂等、可观测"

Java 不需要成为最好的 AI 语言,它只需要成为最可靠的 AI 落地语言。 从 2026 年 11 月这个时点看,这条路是走得通的——只是还需要有人把评估、可观测、RAG 管线这三块补上。

谁补上,谁就是下一个 Spring。

附录:完整清单速查表

Stars 为 2026-11-18 实测;版本为 Latest Release;"—" 表示无正式 release 或未取到。共 61 条,其中 #16 Semantic Kernel 为多语言仓库(星数含 C# 主仓),#60 HertzBeat 属"AI 增强型可观测"而非 AI 框架,#61 为补录,一并列出供参考。

#项目Stars版本层一句话
1langchain4j13,4201.23.0L1JVM 侧事实标准,双轨版本
2spring-ai9,6572.0.2L1Spring 官方,工程化基线
3spring-ai-alibaba11,1591.1.2.2L1国内覆盖率最高,当前停滞
4agents-flex1,0572.3.0L1轻量,对标 Spring AI
5solon-ai4734.1.1L1无 Spring 依赖,极轻
6ai4j441—L1支持 Java 8
7quarkus-langchain4j3251.15.1L1Quarkus + native
8langchain4j-community229—L1冷门集成集合
9agentscope-java6,4072.0.5L2分布式 Agent 运行时
10koog4,6651.3.0L2Kotlin 多平台,强容错
11embabel-agent4,5601.5.4L2GOAP,确定性规划
12atmosphere3,8364.0.xL2跨框架运行时 + 治理
13langgraph4j2,1131.9.10L2LangGraph 的 Java 版
14adk-java1,7751.14.0L2Google code-first
15JManus~1,100V4.10.12L2/L6Manus 的 Java 实现
16semantic-kernel28,786维护模式L2已并入 MS Agent Framework
17java-sdk(MCP)3,7742.2.0L3MCP 官方 Java SDK
18a2a-java5171.5.1.FinalL3A2A 官方 Java SDK
19quarkus-mcp-server2042.1.0.CR1L3注解式 MCP server
20sonarqube-mcp-server689—L3代码质量 MCP
21jadx-ai-mcp3,015—L3反编译 MCP
22ghidra-mcp6,271—L3逆向工程 MCP
23opendataloader-pdf30,332—L4PDF 转 AI-ready 数据
24vespa7,184—L4AI 搜索平台
25pinot6,177—L4实时分析 + 向量
26djl4,8610.40.0L4Java 深度学习
27tika4,153—L4文档抽取
28lucene3,613—L4检索底座
29jlama1,311—L4纯 Java 推理引擎
30memind906—L4Agent 记忆引擎
31elasticsearch-java526—L4ES 客户端
32milvus-sdk-java501—L4Milvus 客户端
33opensearch-java163—L4OpenSearch 客户端
34qdrant java-client100—L4Qdrant 客户端
35weaviate java-client34—L4Weaviate 客户端
36kestra30,269—L5声明式工作流
37flowable-engine9,6618.0.0L5BPMN + AI
38camel6,414—L5集成框架 + langchain4j
39camunda4,3678.10.9L5Agentic 编排平台
40liteflow3,911—L5规则编排
41bytechef1,063—L5Agent 工作流自动化
42flink-agents494—L5流式 Agent
43sdk-java(Temporal)444—L5持久化执行
44JeecgBoot48,511—L6AI 低代码
45halo40,333—L6建站 + AI 插件
46Chat2DB28,3655.3.8L6AI 数据库客户端
47ruoyi-ai5,8383.1.0L6企业 AI 平台脚手架
48ragent4,482—L6Agentic RAG 实战
49langchain4j-aideepin1,404—L6AI 应用平台
50langchat1,362—L6LangChain4j 应用平台
51EnterpriseAgentFramework1,053—L6存量系统 AI 改造
52nexus-agent681—L6企业 Agent 平台
53spring-ai-agent-utils688—L6Claude Code 风格工具
54FinSight-AI562—L6金融投研 Agent
55EDDI394—L6JSON 驱动 Agent
56AI-Interview261—L6AI 模拟面试
57openai-java1,5684.108.0L0官方 OpenAI SDK
58deepseek4j751—L0DeepSeek SDK
59ollama4j509—L0Ollama 客户端
60hertzbeat7,469—L7AI 驱动的可观测
61supersonic5,200—L6腾讯音乐 ChatBI 平台(补录)

说明与免责:Star 数与版本随仓库变化,本文数据仅代表 2026-11-18 这一时点。部分项目(如 Spring AI Alibaba)的维护状态存在社区争议,本文只陈述可核实的提交与发布事实,不推断官方意图。