外部知识层通过 RAG(检索增强生成)等机制,从外部知识库中按需检索相关文档片段注入上下文。如果说记忆检索注入层连接的是"用户的个人记忆",那么外部知识层连接的是"通用的知识库"——文档、代码库、API 文档、企业内部知识等。
RAG 作为 Select 策略的核心实现,其成本优势是压倒性的:
RAG vs 全上下文的成本对比
| 维度 | RAG 检索 | 全上下文加载 |
|---|---|---|
| 每查询 API 成本 | ~$0.00008 | ~$0.10 |
| 延迟 | ~1 秒 | 30-60 秒 |
| Token 消耗/请求 | ~783 | 数十万 |
| 信息完整性 | 受检索质量限制 | 全部信息可用 |
| 跨文档推理 | 受限 | 原生支持 |
API 成本数据来自 Elasticsearch Labs: Longer context ≠ better: Why RAG still matters(2025年7月发布,实测 RAG 查询成本约 0.10/次,差距约 1250x)。考虑 RAG 的隐性成本(索引构建、向量 DB 运维、Embedding 模型推理),实际总成本差距约为 10-100x,但 RAG 在 API 调用层面的成本优势是真实且显著的。
2025-2026 的行业共识是:RAG 和长上下文不是非此即彼,而是协同使用。RAG 作为默认检索架构(成本优势 10-100x),长上下文作为补充——当需要跨文档推理、固定小文档集、需要全局理解(如合同审查、法律分析)时,才考虑全上下文加载。
2.7.1 动手验证:全量加载 vs 按需检索的 Token 对比
RAG 的成本优势到底有多大?我们用一个简化的场景来量化:构造一个包含 5 段技术文档的"小型知识库",然后对比"全部塞进上下文"和"只检索最相关的 1 段"两种策略的 token 消耗和回答质量。
# === Select 策略演示:全量加载 vs 按需检索 ===
# 1. 构造一个小型"知识库"(5 段不同主题的技术文档)
knowledge_base = {
"FastAPI路由": (
"FastAPI 使用装饰器定义路由。@app.get('/items/{id}') 定义 GET 端点,"
"支持路径参数自动解析和类型校验。依赖注入通过 Depends() 实现,支持嵌套依赖和生命周期管理。"
"FastAPI 基于 Starlette 和 Pydantic,性能接近 NodeJS,同时提供完整的类型提示和自动文档生成。"
),
"PostgreSQL索引": (
"PostgreSQL 支持多种索引类型:B-tree(默认,适合等值和范围查询)、Hash(仅等值查询)、"
"GiST(几何和全文搜索)、GIN(数组和 JSONB)。创建索引的基本语法:CREATE INDEX idx_name ON table(column)。"
"复合索引的列顺序很重要:把选择性最高的列放在最前面。EXPLAIN ANALYZE 是验证索引是否生效的关键工具。"
),
"Redis缓存": (
"Redis 作为缓存层的常见模式:Cache-Aside(读时检查缓存→未命中→查 DB→写缓存)、"
"Write-Through(写操作同时更新 DB 和缓存)、Write-Behind(异步批量写入 DB)。"
"TTL 设置建议:热点数据 300-600s,冷数据 3600s。使用 pipeline 批量操作可减少 90% 的网络往返。"
),
"Docker部署": (
"Docker Compose 适合开发环境,生产环境推荐 Kubernetes 或 AWS ECS。"
"多阶段构建(multi-stage build)可将镜像体积缩小 60-80%。"
"健康检查配置:HEALTHCHECK --interval=30s --timeout=5s CMD curl -f http://localhost:8000/health。"
),
"JWT认证": (
"JWT 由 Header.Payload.Signature 三部分组成,Base64 编码。"
"Access Token 有效期建议 15-30 分钟,Refresh Token 7-30 天。"
"安全最佳实践:HttpOnly Cookie 存储、HTTPS 传输、密钥定期轮换、Token 黑名单机制。"
),
}
# 2. 用户问题(只和 PostgreSQL 索引相关)
question = "我的查询很慢,应该怎么建索引?用什么工具验证索引是否生效?"
# 策略A:全量加载(把所有文档塞进上下文)
full_context = "\n\n".join(f"【{title}】\n{content}" for title, content in knowledge_base.items())
prompt_full = f"参考资料:\n{full_context}\n\n用户问题:{question}"
# 策略B:按需检索(只加载最相关的文档——这里简化用关键词匹配模拟向量检索)
relevant_key = "PostgreSQL索引" # 实际由向量检索返回
prompt_selective = f"参考资料:\n【{relevant_key}】\n{knowledge_base[relevant_key]}\n\n用户问题:{question}"
# 3. 对比 token 消耗
full_tokens = count_tokens(prompt_full)
selective_tokens = count_tokens(prompt_selective)
print(f"{'策略':<14} {'Token 消耗':>10} {'文档数':>6}")
print("-" * 36)
print(f"{'全量加载':<14} {full_tokens:>10} {len(knowledge_base):>6}")
print(f"{'按需检索':<14} {selective_tokens:>10} {'1':>6}")
print(f"\n按需检索节省 {full_tokens - selective_tokens} tokens({(1-selective_tokens/full_tokens)*100:.0f}%)")
print(f"知识库越大,差距越大——1000 篇文档时差距可达 100 倍以上")
# 4. 验证回答质量(两种策略都能正确回答)
print(f"\n--- 按需检索的回答 ---")
response = llm.invoke(prompt_selective)
print(response.content[:300])
| 策略 | Token 消耗 | 文档数 |
|---|---|---|
| 全量加载 | 581 | 5 |
| 按需检索 | 163 | 1 |
按需检索节省 418 tokens(72%)
知识库越大,差距越大——1000 篇文档时差距可达 100 倍以上
--- 按需检索的回答 ---
要优化慢查询,建索引和验证索引是否生效,可以遵循以下步骤:
1. 先定位慢查询
找到执行时间最长的 SQL。如果你还没有具体语句,可以先在 PostgreSQL 中开启慢查询日志(设置 log_min_duration_statement),或使用 pg_stat_statements 扩展找出消耗最多的查询。
2. 针对查询创建索引
拿到具体查询后,观察 WHERE、JOIN、ORDER BY、GROUP BY 子句中用到的列。
- 等值查询和范围查询:使用默认的 B-tree 索引,这是最常用的类型。
运行后你会看到:两种策略都能正确回答关于 PostgreSQL 索引的问题,但全量加载消耗的 token 是按需检索的 4-5 倍。在这个小规模示例中差距是几百 token,但在真实系统中——知识库动辄数万篇文档——差距会扩大到几个数量级。这就是为什么 RAG 成为 Select 策略的核心实现:不是把整个图书馆搬进鱼缸,而是只借最需要的那本书。
至此,我们完成了六大功能模块的逐一拆解。回到鱼缸模型的视角:系统提示是最稳定的一层水(几乎不变),对话历史和工具上下文是增长最快的两个水龙头,记忆注入和外部知识是按需加载的精准滴管,任务状态是 Agent 自主管理的一小块水域。理解了这六个模块的角色和特征,我们就有了分析任何 Agent 系统的坐标系。接下来,我们要学习如何用 Anthropic 的五大策略来管理这些模块。