图：2024 AI Agent 技术栈 from letta
Model 模型层
提供模型或者模型 API 服务，像 OpenAI/Anthropic/DeepSeek/Qwen 等
Storage 存储层
存储是有状态代理的基本构建块，代理由持久状态定义，例如它们的对话历史记录、内存和用于 RAG 的外部数据源。主要有向量数据库，图数据库等
Tool & Libs
工具调用层，主要为 LLM 提供扩展能力。
Agent frameworks 代理框架
代理框架编排 LLM 调用并管理代理状态。算是功能最复杂的一个模块，通常包含一下功能：
1. 状态管理
2. 上下文窗口管理
3. 跨 Agent 通信（即多代理）
系统内部的多个 Agent 通信功能，更标准通用的多 Agent 之间通信有 Google 的 A2A 协议。
4. 记忆管理
Agent 应用中比较重要的部分，让我们的 LLM 应用有了记忆能力。
Agent 在线服务
提供 Agent 开发的 SaaS 服务。
Agent 观测
开发和运行过程中的各种指标监控。
Agent 应用
我们平时用到的各种各样的 LLM 应用，如 ChatGPT、豆包和腾讯元宝等。
