Prompt 已死,Agent 只是过渡?大模型工程正在进入 Graph 时代
2023 年,整个 AI 圈都在研究 Prompt。
2024 年,大家开始疯狂做 RAG。
2025 年,Agent 成了所有 AI 创业公司的标配。
而到了 2026 年,一个新的关键词正在快速取代 Agent——Graph Engineering。
短短不到五年,大模型工程(LLM Engineering)几乎每年都会诞生一个新的热门概念:
Prompt、Chain、RAG、Workflow、Agent、Multi-Agent、Graph……
于是,很多开发者开始困惑:
Prompt 不是还在用吗?为什么大家说 Prompt 已经过时了?
RAG 为什么刚火两年,又开始讨论 Agent?
Agent 难道不是 AI 应用的终极形态?为什么现在又冒出了 Graph?
每年都在出现新框架、新概念,它们到底是什么关系?
如果你也有这些疑问,那么恭喜你,这说明你已经看到了 AI 工程真正的问题。
事实上,这些看似毫无关联的新技术,并不是相互替代,而是在解决同一个问题:
如何让大模型,从一次聊天,进化成一个真正可以工作的软件系统。
过去几年,我们一直把注意力放在模型本身:GPT-3.5、GPT-4、Claude、Gemini、DeepSeek、Qwen……
但真正推动 AI 落地的,并不是模型参数越来越大,而是**大模型工程(LLM Engineering)**的快速演进。
如果把整个发展过程画成一条时间轴,你会发现它其实经历了五次非常清晰的技术跃迁。
第1代:Prompt Engineering ↓ 第2代:Advanced Prompt / Chain ↓ 第3代:Vector RAG & Workflow ↓ 第4代:Agentic RAG / Multi-Agent ↓ 第5代:Graph Engineering
每一次升级,都不是为了追赶热点,而是在解决上一代无法解决的问题。
Prompt 解决了"如何与大模型沟通";
Chain 解决了"如何组织多个 Prompt";
RAG 解决了"如何让模型拥有企业知识";
Agent 解决了"如何让模型自主决策";
而 Graph,则开始解决 AI 应用走向工业化过程中最棘手的问题——如何管理越来越复杂的 Agent
这篇文章,我们站在 LLM Engineering 的视角,带你看懂过去五年 AI 工程的发展脉络,以及下一代 AI 应用为什么一定会走向 Graph。
第一代:Prompt Engineering —— AI 的石器时代
为什么会出现?
2022 年底,ChatGPT 横空出世。
整个行业第一次发现:
原来一句 Prompt,就能决定 AI 的表现。
于是,全世界开始疯狂研究 Prompt。
各种经典技巧层出不穷:
- Zero-shot
- Few-shot
- Chain of Thought
- Role Prompt
- Persona Prompt
- XML Prompt
- Markdown Prompt
- System Prompt
那时候,一个优秀 Prompt,甚至能让 GPT-3.5 的能力提升几十个百分点。
Prompt Engineering 一时间成为 AI 工程师最重要的技能。
上一代的问题
其实,没有上一代。
因为那个时代,AI 只有一种运行模式:
用户输入
↓
LLM
↓
回答
整个过程只有一次推理,没有状态,没有记忆,没有工具,没有循环,所有能力,都只能塞进一段 Prompt。
它解决了什么?
Prompt Engineering 最大的贡献,是让大家第一次理解:
LLM 并不是传统程序。
Prompt 不再只是输入。
它开始变成:
- 指令
- 上下文
- 示例
- 约束
- 角色
- 思维方式
Prompt 成为了"程序"。
这也是后来"In-Context Learning"如此重要的原因。
为什么它很快遇到瓶颈?
Prompt 再长,也只是一次推理。
它无法:
- 查询数据库
- 搜索互联网
- 调 API
- 修改代码
- 多轮验证
- 自己发现错误
例如:
帮我分析今天苹果股票。
Prompt 再优秀,也不知道今天发生了什么。
因为模型知识已经截止。
于是行业开始意识到:
模型需要连接外部世界。
第二代开始出现。
第二代:Advanced Prompt / Chain —— 把一次思考拆成多步
为什么会出现?
Prompt 太复杂了。
大家开始发现:
一个 Prompt 里面同时完成:
- 理解问题
- 思考
- 规划
- 输出
其实效果不好。
于是有人提出:为什么不拆开?
例如:
Prompt1
↓
Prompt2
↓
Prompt3
LangChain 就是在这个阶段迅速流行起来。
它解决了什么?
最典型的是 Chain of Thought。
例如:
先分析问题。
↓
再制定方案。
↓
最后输出答案。
以前:
LLM
后来:
LLM
↓
LLM
↓
LLM
多个 Prompt 开始形成 Pipeline。
优势
相比单 Prompt:
- 可维护
- 可组合
- 易调试
- 可复用
整个 Prompt 从一句话,开始变成一个工作流。
为什么又失败?
因为它依旧只有一个方向:
A
↓
B
↓
C
↓
D
永远不能:
A
↓
B
↑
↓
C
更不能:
如果失败
↓
重新尝试
AI 依旧不会"回头"。
于是:
Workflow 出现。
第三代:Vector RAG & Workflow —— AI 第一次拥有"外部记忆"
2023 年,大模型真正落地企业。
企业最大的痛点不是 Prompt,而是:
模型不知道公司的知识。
于是,RAG 成为了整个 AI 行业最大的热点。 为什么仅靠检索还不够,需要把:
查询
↓
检索
↓
重排序
↓
总结
↓
回答
串联起来。
这是 Workflow 的诞生。
这一阶段代表产品包括:
- LangChain
- LlamaIndex
- Haystack
- Dify
- Flowise
为什么还是不够?
因为 Workflow 本质还是:
A
↓
B
↓
C
↓
结束
如果:
检索失败?不会重查。
工具失败?不会换工具。
答案错误?不会反思。
整个流程没有反馈。
于是真正的革命开始了。
第四代:Agentic RAG / Multi-Agent —— Loop 的第一次大爆发
很多人认为 Agent 是因为 Tool Calling 才出现。
其实不是,真正的原因只有一个:
AI 开始拥有了 Loop。
OpenAI 的 ReAct、Anthropic 的 Tool Use、Claude Code、Cursor Agent、OpenAI Deep Research、Google Gemini Agent。
它们都有一个共同特点:
思考
↓
行动
↓
观察
↓
继续思考
↓
继续行动
这就是经典 ReAct Loop。
以前:
Thinking
↓
Output
现在:
Think
↓
Tool
↓
Observe
↓
Think
↓
Tool
↓
Observe
AI 第一次能够:
- 自己搜索
- 自己修正
- 自己验证
- 自己继续
能力开始指数增长。
Agent 为什么突然这么强?
因为任务不再一次完成。
例如 Cursor:
发现代码报错。
↓
修改。
↓
运行。
↓
失败。
↓
重新修改。
↓
继续运行。
这是 Loop。
而不是 Prompt。
为什么 Agent 又开始失控?
随着 Loop 越来越多:
开始出现,无限循环、重复调用工具、工具冲突、上下文爆炸、Token 成本失控、Agent 已经不像程序,更像一团不断增长的意大利面。
于是: Graph 出现。
第五代:Graph Engineering —— 用 Graph 管理 Loop
很多人误以为:Graph 就是流程图,完全不是。
Graph 最大的意义只有一句话:
Graph 是管理 Loop 的最佳数据结构。
为什么?
因为 Workflow 只能表达:
A
↓
B
↓
C
而 Graph 可以表达:
条件分支
状态恢复
循环控
节点复用
异常处理
并发执行
Checkpoint
Memory
Human in Loop
Supervisor
Planner
Executor
Reviewer
全部统一。 于是 LangGraph 横空出世,Google ADK,CrewAI Flow,OpenAI Responses API,Anthropic Agent SDK,几乎整个行业,都开始 Graph 化。
Graph 为什么成为终局?
因为真正复杂任务,不再是一条线。
而是一张网。
例如:
Planner
↓
Coder
↓
Tester
↓
Reviewer
↓
失败?
↓
返回 Coder
这是 Workflow 无法优雅表达的。
Graph 天然支持。
为什么 Graph 会成为未来几年主流?
因为企业真正需要的是:
稳定、可恢复、可监控、可观测、可审计、可暂停、可恢复
Graph 正好全部满足。
这也是为什么,2025 年之后,几乎所有大型 Agent Framework,都开始 Graph First。
五代工程体系,本质到底在进化什么?
如果把整个历史压缩成一句话:
其实只有一件事在不断升级:
Prompt
↓
Prompt Chain
↓
Workflow
↓
Loop
↓
Graph
进一步抽象,就是:
输入
↓
流程
↓
状态
↓
反馈
↓
自治
真正发生变化的,从来不是模型。
而是:
工程系统越来越像一个真正的软件系统。
传统软件工程的发展,是:
函数 → 模块 → 服务 → 微服务 → 云原生。
AI 工程的发展,同样遵循类似规律:
Prompt → Chain → Workflow → Agent → Graph。
今天的 AI Engineer,写的不再只是 Prompt,而是在设计一个能够持续运行、持续决策、持续学习的智能系统。
下一代会是什么?
很多人认为 Graph 就结束了,其实并不会。
Graph 解决的是:
如何组织 Loop。
但它没有解决:
Graph 自己谁来设计?
未来正在出现的新方向已经初露端倪:
- Self-Evolving Graph(图结构自演化)
- Dynamic Graph(动态图)
- Graph of Agents(Agent 图网络)
- AI 编排 AI(AI Orchestrates AI)
- Runtime Graph Generation(运行时生成 Graph)
未来,工程师设计的可能不再是 Graph。
而是:
让 AI 自己生成 Graph。
那个时候,大模型工程将真正进入"自治系统(Autonomous System)"时代。
写在最后
回头看这五代技术演进,会发现一个非常有意思的规律:
Prompt Engineering 教会了 AI 如何回答问题;
Chain Engineering 教会了 AI 如何拆解问题;
Workflow 教会了 AI 如何连接世界;
Agent 教会了 AI 如何不断尝试;
Graph Engineering,则教会了 AI 如何管理自己的思考过程。
所以,大模型工程真正的主线,从来不是 Prompt,也不是 RAG,更不是 Agent。
真正的主线只有一个:
如何让 AI 从"一次推理",逐渐演进为"持续完成任务"。
而这,也许才是未来十年 AI Engineering 最值得关注的方向。