【图】一图理解LLM、LangChain、RAG、AI Agent、MCP、token、context、prompt、tool概念

22 阅读3分钟

AI Agent架构图生成.png

如果你刚接触 AI,一定会被一堆名词砸得有点晕:token、prompt、RAG、Agent、MCP……它们各自听起来都很厉害,但彼此之间到底是什么关系?今天这篇文章,我们用几张图把这套知识骨架搭起来。看完你会有一种“原来如此”的通透感。


整体架构关系图

一个真实的 AI 应用,不是只有一个大模型在默默回答问题。它更像是一条流水线,每个环节负责一件事,最后拼接出你看到的“智能”。

flowchart TB
    subgraph 用户层
        U[用户输入]
    end

    subgraph Prompt 工程
        P1[System Prompt<br/>系统指令]
        P2[Instruction<br/>任务指令]
        P3[Examples<br/>示例]
        P4[Output Format<br/>输出格式]
    end

    subgraph RAG 检索增强
        R1[用户问题]
        R2[向量数据库]
        R3[Embedding<br/>向量化]
        R4[相似度检索]
        R5[Top-K 文档]
    end

    subgraph Context 上下文
        C1[System Prompt]
        C2[历史对话]
        C3[检索文档]
        C4[工具返回结果]
        C5[当前用户输入]
        C6[Context Window<br/>最大 token 限制]
    end

    subgraph Token 层
        T1[Tokenizer 分词]
        T2[Token 序列]
        T3[Token IDs]
    end

    subgraph LLM 大语言模型
        L1[Embedding 层]
        L2[Transformer 层]
        L3[注意力机制]
        L4[输出层]
    end

    subgraph Tool 工具调用
        TL1[搜索引擎]
        TL2[计算器]
        TL3[数据库]
        TL4[代码执行]
        TL5[API 调用]
    end

    subgraph MCP 协议
        M1[MCP Server]
        M2[MCP Client]
        M3[统一工具接口]
    end

    subgraph AI Agent 智能体
        A1[感知]
        A2[推理/规划]
        A3[行动]
        A4[记忆]
        A5[反思]
    end

    subgraph LangChain 框架
        LC1[Models<br/>模型接口]
        LC2[Prompts<br/>提示管理]
        LC3[Chains<br/>调用链]
        LC4[Memory<br/>记忆管理]
        LC5[Tools<br/>工具集成]
        LC6[Agents<br/>智能体]
        LC7[Retrievers<br/>检索器]
    end

    U --> P2
    P1 --> C1
    P2 --> C5
    P3 --> P2
    P4 --> P2

    U --> R1
    R1 --> R3
    R3 --> R4
    R2 --> R4
    R4 --> R5
    R5 --> C3

    C1 --> C6
    C2 --> C6
    C3 --> C6
    C4 --> C6
    C5 --> C6

    C6 --> T1
    T1 --> T2
    T2 --> T3
    T3 --> L1

    L1 --> L2
    L2 --> L3
    L3 --> L4
    L4 -->|需要工具| TL1
    L4 -->|需要工具| TL2
    L4 -->|需要工具| TL3
    L4 -->|需要工具| TL4
    L4 -->|需要工具| TL5

    TL1 --> C4
    TL2 --> C4
    TL3 --> C4
    TL4 --> C4
    TL5 --> C4

    M3 --> TL1
    M3 --> TL2
    M3 --> TL3
    M3 --> TL4
    M3 --> TL5
    M2 --> M3
    M1 --> M2

    A1 --> U
    A2 --> L4
    A3 --> TL1
    A3 --> TL2
    A3 --> TL3
    A3 --> TL4
    A3 --> TL5
    A4 --> C2
    A5 --> A2

    LC1 --> L1
    LC2 --> P1
    LC3 --> T1
    LC4 --> C2
    LC5 --> TL1
    LC6 --> A1
    LC7 --> R4

这张图虽然密密麻麻,但核心逻辑很清晰:用户输入 → 加工 Prompt → 补充上下文 → 转成 Token → 送进大模型 → 必要时调用工具 → 最终输出。MCP、LangChain、Agent 这些,都是让这条流水线更规范、更自动化的不同层级的工具。


一次完整请求的数据流向

理解了整体结构,我们再跟着一个真实的问题走一遍。

mermaid-diagram-2026-07-29-153921.png

可以看到,大模型是整个流程的决策中枢,但它并不孤单。需要查资料时,RAG 上场;需要计算或查实时信息时,工具上场;工具和模型之间,往往由 LangChain 编排、由 MCP 统一对接。答案不是一次性生成的,而是在「推理 → 工具 → 回填 → 再推理」的循环里逐渐成形的。


各概念的角色定位

与其死记硬背每个名词的定义,不如先搞清楚它们站在哪一层。

flowchart TD
    subgraph 输入层
        TOKEN[Token<br/>基本单元]
        CONTEXT[Context<br/>上下文窗口]
        PROMPT[Prompt<br/>提示词工程]
    end

    subgraph 核心层
        LLM[LLM<br/>大语言模型<br/>大脑]
    end

    subgraph 能力层
        TOOL[Tool<br/>外部工具]
        RAG[RAG<br/>知识检索]
        MCP[MCP<br/>工具协议]
    end

    subgraph 框架层
        LANGCHAIN[LangChain<br/>开发框架]
    end

    subgraph 应用层
        AGENT[AI Agent<br/>智能体]
    end

    TOKEN --> CONTEXT
    CONTEXT --> PROMPT
    PROMPT --> LLM
    LLM --> TOOL
    RAG --> CONTEXT
    MCP --> TOOL
    LANGCHAIN --> TOKEN
    LANGCHAIN --> PROMPT
    LANGCHAIN --> LLM
    LANGCHAIN --> TOOL
    LANGCHAIN --> RAG
    LANGCHAIN --> AGENT
    AGENT --> LLM
    AGENT --> TOOL
    AGENT --> RAG
    MCP -.->|统一接口| LANGCHAIN

    style LLM fill:#f9f,stroke:#333,stroke-width:3px
    style AGENT fill:#ff9,stroke:#333,stroke-width:3px
    style LANGCHAIN fill:#bbf,stroke:#333,stroke-width:3px

LLM 是大脑,Agent 是员工,LangChain 是脚手架。 Token、Context、Prompt 是喂给大脑的材料;Tool、RAG、MCP 是给大脑装上的手脚和资料库。LangChain 负责把它们串起来,Agent 则让这套系统能自己动起来。


分层关系详解

如果我们把 AI 应用比作一栋楼,每一层都有自己的分工。

mermaid-diagram-2026-07-29-154141.png

最底层是输入层,决定模型「看到什么」;往上是 LLM,负责「理解并生成」;再往上是能力扩展层,让模型不再只会聊天;LangChain 是工程框架,帮你把这些能力落地;最顶层的 Agent,则是让 AI 像人一样自主完成任务的最终形态。


一图看懂九大概念关系

如果上面这些图还是太细,那请记住下面这张「鸟瞰图」。

AI Agent架构图生成.png

Prompt、RAG、Tool 最终都汇进 Context;Context 的本质是一串 Token;Token 进入 LLM 后,由它决定是直接回答,还是通过 MCP 去调用外部工具。LangChain 是这一切的粘合剂,而 Agent 是最终面向用户的产品形态。


概念速查表

概念一句话解释角色
Token文本的最小切分单元砖块
Context模型能看到的全部信息工作台
Prompt结构化的输入指令任务书
LLM理解和生成语言的核心引擎大脑
Tool让模型调用外部能力手脚
RAG从知识库检索文档塞入 context查资料
LangChain串联上述所有组件的开发框架脚手架
AI Agent能自主感知→决策→行动的智能系统员工
MCP标准化工具接入协议USB 接口

写在最后

AI 领域的概念很多,但它们并不是孤立存在的。记住一条主线就够了:

Token 组成 Context,Context 承载 Prompt,Prompt 驱动 LLM,LLM 借助 RAG 和 Tool 增强能力,MCP 让工具接入标准化,LangChain 让工程落地,Agent 让这一切自动跑起来。