先给结论:Anthropic 11 月 6 日那篇工程长文,把 Agent 记忆拆成四层——原始会话日志、记忆笔记、知识表征(wiki)、常驻上下文;干活时 Claude 边做边猜着记,闲下来再用一场叫 dreaming(做梦)的离线任务,拿日志对着笔记逐条验算。真正值钱的不是「记得多」,是「知道什么不该记」:宝可梦实验里,写 413 个记忆文件的模型只拿到 1 枚徽章,写 9 个文件的拿到了 4 枚。
目录
- 四层记忆栈
- 干活时的记忆,是一次关于未来的预测
- 413 个文件与 9 个文件
- 给规则,不如给判断权
- 做梦到底做了什么
- 从 13% 到 48%,以及那没解决的 52%
- 这套设计还没解决的问题
- 三个判断,三条依据
- 对做 Agent 的人意味着什么
1. 四层记忆栈(The Four-Layer Stack)
Anthropic 把 Agent 记忆按「持久度」和「信息密度」排成四层,越往上越精、越贵、加载越快。
| 层级 | 内容 | 怎么来的 |
|---|---|---|
| 第一层 | 原始会话日志 | 会话里说过、看过、做过的完整记录,不做加工 |
| 第二层 | 记忆笔记 | 从日志里提炼的观察、纠错、行为规则 |
| 第三层 | 知识表征 | 跨会话综合出的 wiki 页,带相互链接 |
| 第四层 | 常驻上下文 | 被提升到顶层的笔记与 wiki 条目,每次会话开头自动加载 |
四层之间不是并列关系,是一条加工流水线:日志是原料,笔记是半成品,wiki 是成品,常驻上下文是摆在桌面上随时能用的那几页。
flowchart TB
A[第一层 原始会话日志] -->|提炼| B[第二层 记忆笔记]
B -->|跨会话综合| C[第三层 知识表征 wiki]
C -->|提升最高频条目| D[第四层 常驻上下文]
D -->|每次会话自动加载| E[下一次会话]
E -->|产生新日志| A
B -->|做梦时拿日志校验| B
classDef raw fill:#E8F0FE,stroke:#1A73E8,stroke-width:2px,color:#0B1F3A
classDef note fill:#E6F4EA,stroke:#1E8E3E,stroke-width:2px,color:#0B2412
classDef wiki fill:#FEF7E0,stroke:#E37400,stroke-width:2px,color:#3A2400
classDef live fill:#FCE8E6,stroke:#D93025,stroke-width:2px,color:#3A0B08
classDef session fill:#F3E8FD,stroke:#8430CE,stroke-width:2px,color:#231038
class A raw
class B note
class C wiki
class D live
class E session
这张图里有个容易被忽略的回路:笔记会被写回、被校验、被替换,而原料(日志)本身不改。Anthropic 在 Dreams 的文档里把这条写得很死——输入的记忆存储永不被修改,输出是一份全新的存储,不满意可以直接丢弃。这个设计等于给记忆操作加了一个 undo。
原文与文档在这里,方便核对:Anthropic:The components of agent memory、Claude 平台 Dreams 文档。「离线整理」这个思路更早的来源是 Letta 与 UC Berkeley 的 sleep-time compute 论文,Anthropic 在文中也把它列为思想来源。
2. 干活时的记忆,是一次关于未来的预测(Memory as Prediction)
第二层「记忆笔记」最容易被误解成「流水账摘要」,其实不是。
Anthropic 的原话很直接:写下一个规则,就是预测这个模式以后还会用到;写下一条已验证的事实,就是预测未来某个会话会直接依赖它,不再复核。所以记忆天然带着赌的成分——赌错了,错的那条会被后来的会话当成前提读进去。
这带来一个有意思的推论:记忆的价值不在于覆盖多少,而在于预测得准不准。记下「用户偏好简洁回答」是有用的预测;记下「当前屏幕上有 3 个敌人」是无效预测,因为下一回合屏幕会自己告诉你。
原文还划清了一条边界:这里说的记忆,不包括改权重、不包括单次对话里的 in-context learning、也不包括压缩上下文(compaction)。它特指跨会话保留、以可读文本形式存在的那部分。
3. 413 个文件与 9 个文件(The Pokémon Experiment)
判断「什么值得记」,Anthropic 用了一局宝可梦红来做实验。给每个模型一个可读写的记忆文件夹,让它自己决定写什么。
结果很刺眼:
- Claude Sonnet 3.7 写了 413 个记忆文件、225 个文件夹,最后拿到 1 枚徽章。
- Claude Fable 5 只写了 9 个文件、2 个文件夹,外加一个顶层 global.md,拿到 4 枚徽章。
差在哪?Sonnet 3.7 的假设是「什么都可能有用」,于是把每场战斗、每件道具、每个 NPC 都单独存档。问题在于宝可梦的游戏状态一直在变,它的详细记录写一份过时一份,越到后面越要把时间花在翻自己的记忆上。大约第 1 万步之后,它开了第四套「主记忆」文件夹,接下来 17 步里新建 6 个文件、删掉 9 个,一步游戏都没走。
Fable 5 的判断相反:屏幕上每回合都能读到的东西,不值得写。金钱、位置、当前血量,读了就有,存了反而挤占注意力。它记的是屏幕读不到的东西——策略、计划、验证过的规则。global.md 当仪表盘放当前目标,locations 文件夹放路线计划,gameplay 文件夹放「连扔七个球都抓不住鲤鱼王之后,试着改变节奏」这类试出来的经验。
一句话总结这个实验:记忆质量由「决定不记什么」定义,而不是由「记了多少」定义。
4. 给规则,不如给判断权(Steering, Not Scripting)
很多团队做记忆系统的第一反应是写规则:只记失败、只记用户偏好、只记三类信息。Anthropic 试了一遍,结论和直觉相反。
他们给 Opus 5 和 Opus 4.7 加了一条「只记录失败」的规则,两个模型的记忆增益都掉了不少。对强模型来说,预先定死的规则会挡掉它本来能判断出的有效信息。原文的说法是:告诉 Claude 记忆是干什么用的,但不要告诉它怎么用。
弱模型的情况反过来。Sonnet 4.6 经常不读自己的记忆文件,也不去验证「上次为什么答错」。给它加一句「回答前先读记忆、先验证猜想」,基准分数几乎翻倍。而 Sonnet 5 不用提示就会做这件事——十次里有九次主动先读记忆。
这条对做产品的启发是:同一套记忆架构,配强模型是放大器,配弱模型是噪声收集器。别指望用更复杂的记忆系统去补模型的判断力。
5. 做梦到底做了什么(What Dreaming Computes)
Dreaming 不是玄学,它是一次异步批处理任务。每次跑,做三件事:
- 从最近的会话里抽取新笔记——用户偏好、反复出现的模式、犯过的错、收到的纠正;
- 拿笔记和历史会话综合出新的 wiki 条目,重复的合并、过期的用最新值替换;
- 把最可靠的笔记和 wiki 条目提升到常驻上下文,下次会话开头直接加载,不用检索。
工程上有几个约束值得记:一次做梦可以吃 1 到 100 个会话;跑的时长从几分钟到几小时,取决于会话数量;输入存储不动,输出是新存储;可以传 instructions 做高层引导,但它是「综合」不是「逐行编辑」,你写「把第 3 段的数字改成 5」基本不会生效。
最典型的修复案例来自宝可梦。Claude 在月见山入口用宝可梦中心当路标,某次把中心的位置记成了东侧。走出门口它宣布「月见山在我身后」,随即把任务标成完成——实际方向完全反了。几步之后它踩上单向台阶,被送回原路,导航工具又不显示落差,于是它自我安慰「我偏西太多了」,继续往错的方向走。
跑一次 dreaming,Claude 拿笔记去对原始会话日志,发现自己的判断和日志里的行动轨迹对不上,改写了那条笔记。修正之后,它直接走回洞口,最终到达了华蓝市。而没修正的那一局,同样的台阶掉了三次,第四次它写下「我不再循环了,我停下」,一路退回尼比市,整局没到过目的地。
这就是「拿日志当 ground truth」的意思:模型自己想不清楚的东西,原始记录替它想清楚。
6. 从 13% 到 48%,以及那没解决的 52%(The Numbers)
Anthropic 还做了一个长周期的 wiki 测试:用约 35 万个文件、4.2 亿 token 的技术文档语料,跑 128 次离线整理,问一批需要跨文档综合的问题。
- 只靠会话结束时的即时状态,wiki 答题准确率约 13%;
- 跑完 128 次 dreaming 之后,升到 48%;
- 再叠加检索能力,升到 61%;只给检索、不给 wiki 是 53%;
- 单次回答消耗的 token 比直接翻原始文件少约 2 万。
48% 这个数字要放在对的位置看:它比 13% 涨了近四倍,说明离线整理确实在累积知识;但换个说法,128 次做梦之后仍有 52% 的 wiki 答案是错的。原文自己也承认这一点,并指出一个更麻烦的性质——如果一条早期错误规则没被后来的经验正面顶掉,它可能一直留在 wiki 里。
这也解释了为什么 dreaming 在「错了会立刻有反馈」的领域更可靠。写代码、跑测试、玩游戏,错了马上知道;做行业判断、写市场分析,错了没人告诉你,错误笔记就会一直沉淀下去。
补一句来源等级:四层结构、宝可梦实验、月见山案例我对着 Anthropic 原文核过;13% 到 48%、61% 与 53%、减少约 2 万 token 这些数字来自第三方对原文的整理,原文页面未完整展开,我在写作时按此口径引用。CL-Bench 上 Opus 5.5 从 0.655 升到 0.838、Sonnet 4.6 从 0.330 只升到 0.364,同样出自这份整理。
7. 这套设计还没解决的问题(Where It Still Breaks)
四条,按影响从大到小排。
第一,可达性。dreaming 目前只在 Claude Managed Agents 的 research preview 里,需要申请访问和特定的 beta header。用标准 API 或第三方框架的团队,暂时用不上这套机制。
第二,准确率天花板。48% 是 128 次整理的终点,不是中途值;想再往上,靠加次数效果会递减,得靠更强的模型或更干净的输入。
第三,可复现性。记忆会跨会话迁移,同一个问题在不同时间问,可能因为保留的笔记不同而给出不同答案。对需要稳定输出的业务,这是要额外测的。
第四,审计成本。输入不变、输出新建,意味着每次做梦都产出一份新存储。跑得越勤,要审的版本越多——省下来的 token,可能换成人工复核的时间。
8. 三个判断,三条依据(Three Judgments)
| 关键判断 | 依据 | 反例(常见的误读) |
|---|---|---|
| 记忆的核心是「不记什么」 | 413 个文件换 1 枚徽章,9 个文件换 4 枚 | 以为记忆越全越好,把屏幕可见信息也存进去 |
| 做梦不是自主思考,是对账 | 月见山案例:拿笔记对原始日志才纠出方向错误 | 以为模型闲下来想一想就能自我纠错 |
| 记忆是模型能力的放大器 | 强模型加记忆增益明显,弱模型加了也接近无效 | 想用复杂记忆架构弥补基座模型的判断力 |
第二行值得展开一句。所谓「做梦」,本质是一次有 ground truth 的复核:日志是唯一没被模型加工过的原始事实,笔记是模型的推断。让推断去对原始事实,才有可能发现错。没有日志可对,做梦就只是让模型再猜一遍。
9. 对做 Agent 的人意味着什么(What Builders Should Take Away)
如果你在做 Agent 产品,这篇长文至少给了三个可以直接用的东西。
一是分层。别把所有东西塞进同一个记忆库。日志原样存、笔记提炼存、wiki 综合存、常驻上下文只放最高频的几条。层次分清楚,检索成本才会降下来。
二是先解决「不记什么」。落地时可以先问一句:这条信息,下次不看记忆、直接读环境能不能拿到?能拿到,就不该占记忆位。这一条比任何记忆框架都管用。
三是别用规则代替判断。初期可以用少量引导把模型带进门,但别把「只记失败」「只记三类」写死。模型能力越强,越该把显著性的判断交给它。
最后提醒一句成本账:dreaming 按 token 计费,成本随输入会话数和长度近似线性增长。原文建议先用小批量会话试,满意了再扩大。这条建议对任何做离线整理的系统都适用——先证明整理出来的东西有人看,再考虑每晚都跑。
本专栏《AI Agent 工具》收录 Agent 记忆、工具调用与运行机制的拆解,每篇都落在一手文档或可核查的实验数据上,每周更新一篇。想按顺序读完,可在专栏页订阅。