第十六章: 上下文工程的决策优先级:先Cache后Isolate的工程理由

0 阅读2分钟

  五种策略不是同等优先级的。从工程实践角度,有一个清晰的递进顺序:

策略实施优先级递进路线

优先级策略投入收益实施时机
1Cache(Prompt Caching)极低(结构化提示即可)输入成本节省 45-90%首日
2Compress(工具结果清除)零额外节省 20-40%首日
3Compress(观察遮蔽 / trim)配置成本累计节省 50%+首周
4Isolate(子 Agent 架构)中(架构改造)推理质量提升按需
5Write + Select中-高支持无限扩展按需

  这个优先级的核心逻辑是零成本策略先用,复杂策略按需叠加。其中排在第一位的 Prompt Caching 值得展开讲清机制——它不是简单的"缓存",而是一套精确的工程优化。

  Prompt Cache 的工作原理:当 Agent 多次调用 LLM 时,每次请求的前缀往往大量重复——系统指令(~800 tokens)和工具定义(~2000 tokens)在每轮对话中完全相同。Prompt Caching 的机制是:首次请求时,API 侧缓存这些静态前缀作为 cache checkpoint;后续请求如果前缀匹配,直接复用缓存,跳过重新计算。关键参数:

  • 最小缓存单元:1024 tokens(Claude Sonnet 4.5/4、Opus 4.1/4)、2048 tokens(Claude Sonnet 4.6)、4096 tokens(Claude Opus 4.5/4.6、Haiku 4.5)

  • TTL(生存时间):默认 5 分钟,命中后重置;部分模型支持 1 小时 TTL

  • 可缓存字段:system、messages、tools——恰好覆盖 Agent 最大的三块固定开销

  • 成本折扣:Anthropic 缓存读取价格比标准输入低 90%(即缓存读取价格为标准输入的 10%)

  做个简单的算术:假设 Agent 有 3000 tokens 的固定前缀(系统指令 + 工具定义),每天调用 1000 次。无缓存 = 每天 300 万 input tokens;有缓存 = 首次 3000 + 后续 999×300(缓存价)= 30.3 万等效 tokens。仅这一项优化,月节省可达数百美元,且零代码修改——只需要确保提示结构的静态前缀足够长且稳定。这就是为什么 Cache 排在五策略优先级的第一位。

20260409140528834.png

  工具结果清除同样只需要一行配置,零成本零延迟。这两个策略应该在 Agent 上线的第一天就启用。

  相比之下,子 Agent 架构需要较大的架构改造投入,RAG 管道需要索引维护——这些策略的收益确实更大,但实施成本也高得多,应该根据实际需求按需引入。