第八章: 上下文工程六大模块之外部知识层(External Knowledge / RAG):Agent的"图书馆"

2 阅读6分钟

  外部知识层通过 RAG(检索增强生成)等机制,从外部知识库中按需检索相关文档片段注入上下文。如果说记忆检索注入层连接的是"用户的个人记忆",那么外部知识层连接的是"通用的知识库"——文档、代码库、API 文档、企业内部知识等。

  RAG 作为 Select 策略的核心实现,其成本优势是压倒性的:

RAG vs 全上下文的成本对比

维度RAG 检索全上下文加载
每查询 API 成本~$0.00008~$0.10
延迟~1 秒30-60 秒
Token 消耗/请求~783数十万
信息完整性受检索质量限制全部信息可用
跨文档推理受限原生支持

 API 成本数据来自 Elasticsearch Labs: Longer context ≠ better: Why RAG still matters(2025年7月发布,实测 RAG 查询成本约 0.00008/次vs全量上下文0.00008/次 vs 全量上下文 0.10/次,差距约 1250x)。考虑 RAG 的隐性成本(索引构建、向量 DB 运维、Embedding 模型推理),实际总成本差距约为 10-100x,但 RAG 在 API 调用层面的成本优势是真实且显著的。

  2025-2026 的行业共识是:RAG 和长上下文不是非此即彼,而是协同使用。RAG 作为默认检索架构(成本优势 10-100x),长上下文作为补充——当需要跨文档推理、固定小文档集、需要全局理解(如合同审查、法律分析)时,才考虑全上下文加载。

2.7.1 动手验证:全量加载 vs 按需检索的 Token 对比

  RAG 的成本优势到底有多大?我们用一个简化的场景来量化:构造一个包含 5 段技术文档的"小型知识库",然后对比"全部塞进上下文"和"只检索最相关的 1 段"两种策略的 token 消耗和回答质量。

# === Select 策略演示:全量加载 vs 按需检索 ===

# 1. 构造一个小型"知识库"(5 段不同主题的技术文档)
knowledge_base = {
    "FastAPI路由": (
        "FastAPI 使用装饰器定义路由。@app.get('/items/{id}') 定义 GET 端点,"
        "支持路径参数自动解析和类型校验。依赖注入通过 Depends() 实现,支持嵌套依赖和生命周期管理。"
        "FastAPI 基于 Starlette 和 Pydantic,性能接近 NodeJS,同时提供完整的类型提示和自动文档生成。"
    ),
    "PostgreSQL索引": (
        "PostgreSQL 支持多种索引类型:B-tree(默认,适合等值和范围查询)、Hash(仅等值查询)、"
        "GiST(几何和全文搜索)、GIN(数组和 JSONB)。创建索引的基本语法:CREATE INDEX idx_name ON table(column)。"
        "复合索引的列顺序很重要:把选择性最高的列放在最前面。EXPLAIN ANALYZE 是验证索引是否生效的关键工具。"
    ),
    "Redis缓存": (
        "Redis 作为缓存层的常见模式:Cache-Aside(读时检查缓存→未命中→查 DB→写缓存)、"
        "Write-Through(写操作同时更新 DB 和缓存)、Write-Behind(异步批量写入 DB)。"
        "TTL 设置建议:热点数据 300-600s,冷数据 3600s。使用 pipeline 批量操作可减少 90% 的网络往返。"
    ),
    "Docker部署": (
        "Docker Compose 适合开发环境,生产环境推荐 Kubernetes 或 AWS ECS。"
        "多阶段构建(multi-stage build)可将镜像体积缩小 60-80%。"
        "健康检查配置:HEALTHCHECK --interval=30s --timeout=5s CMD curl -f http://localhost:8000/health。"
    ),
    "JWT认证": (
        "JWT 由 Header.Payload.Signature 三部分组成,Base64 编码。"
        "Access Token 有效期建议 15-30 分钟,Refresh Token 7-30 天。"
        "安全最佳实践:HttpOnly Cookie 存储、HTTPS 传输、密钥定期轮换、Token 黑名单机制。"
    ),
}

# 2. 用户问题(只和 PostgreSQL 索引相关)
question = "我的查询很慢,应该怎么建索引?用什么工具验证索引是否生效?"

# 策略A:全量加载(把所有文档塞进上下文)
full_context = "\n\n".join(f"【{title}】\n{content}" for title, content in knowledge_base.items())
prompt_full = f"参考资料:\n{full_context}\n\n用户问题:{question}"

# 策略B:按需检索(只加载最相关的文档——这里简化用关键词匹配模拟向量检索)
relevant_key = "PostgreSQL索引"  # 实际由向量检索返回
prompt_selective = f"参考资料:\n【{relevant_key}】\n{knowledge_base[relevant_key]}\n\n用户问题:{question}"

# 3. 对比 token 消耗
full_tokens = count_tokens(prompt_full)
selective_tokens = count_tokens(prompt_selective)

print(f"{'策略':<14} {'Token 消耗':>10} {'文档数':>6}")
print("-" * 36)
print(f"{'全量加载':<14} {full_tokens:>10} {len(knowledge_base):>6}")
print(f"{'按需检索':<14} {selective_tokens:>10} {'1':>6}")
print(f"\n按需检索节省 {full_tokens - selective_tokens} tokens({(1-selective_tokens/full_tokens)*100:.0f}%)")
print(f"知识库越大,差距越大——1000 篇文档时差距可达 100 倍以上")

# 4. 验证回答质量(两种策略都能正确回答)
print(f"\n--- 按需检索的回答 ---")
response = llm.invoke(prompt_selective)
print(response.content[:300])
策略Token 消耗文档数
全量加载5815
按需检索1631

按需检索节省 418 tokens(72%)

知识库越大,差距越大——1000 篇文档时差距可达 100 倍以上

--- 按需检索的回答 ---

要优化慢查询,建索引和验证索引是否生效,可以遵循以下步骤:

1. 先定位慢查询

找到执行时间最长的 SQL。如果你还没有具体语句,可以先在 PostgreSQL 中开启慢查询日志(设置 log_min_duration_statement),或使用 pg_stat_statements 扩展找出消耗最多的查询。

2. 针对查询创建索引

拿到具体查询后,观察 WHERE、JOIN、ORDER BY、GROUP BY 子句中用到的列。

  • 等值查询和范围查询:使用默认的 B-tree 索引,这是最常用的类型。

  运行后你会看到:两种策略都能正确回答关于 PostgreSQL 索引的问题,但全量加载消耗的 token 是按需检索的 4-5 倍。在这个小规模示例中差距是几百 token,但在真实系统中——知识库动辄数万篇文档——差距会扩大到几个数量级。这就是为什么 RAG 成为 Select 策略的核心实现:不是把整个图书馆搬进鱼缸,而是只借最需要的那本书。

  至此,我们完成了六大功能模块的逐一拆解。回到鱼缸模型的视角:系统提示是最稳定的一层水(几乎不变),对话历史和工具上下文是增长最快的两个水龙头,记忆注入和外部知识是按需加载的精准滴管,任务状态是 Agent 自主管理的一小块水域。理解了这六个模块的角色和特征,我们就有了分析任何 Agent 系统的坐标系。接下来,我们要学习如何用 Anthropic 的五大策略来管理这些模块。