术语纪律(先说清,免得滑回直觉词泥潭):本书把「幻觉」(事实误差/错误)和「注意力」都加上引号。「幻觉」是借来未厘清的工作术语,指模型产出的不正确、无依据内容;「注意力」在本书里只作比喻,真实机制是 softmax 的概率权重归一化(Σ=1)。下文沿用这一纪律——凡比喻处必加引号。
一、不是"笨",是"慢性的毒"
很多人以为多智能体的失败长这样:某个模型答错一道题,红字告警,修掉就好。但真实的生产级崩坏几乎从不长这样。它更像一种慢性中毒:
- 第一轮还像样,第三轮开始答非所问;
- 一个节点悄悄埋下的错,被下游当成事实继续推理;
- 角色互相"点头",却没人真正引入新信息;
- 最后对话在两句相似的话之间反复横跳,再也走不下去。
单体大模型的典型失败是"雪崩"——错 token 沿单条自回归链放大(§3.1.5b 根因 A/B/C,Kalai 等 arXiv:2509.04664 给出幻觉率非零下界)。多智能体的失败是另一种动物:它发生在"轮次之间"和"节点之间",靠的是系统自己在喂养自己。这正是《你拼命消除的正是智能》反复要治的那根链——而它最阴险的地方在于:你在拼命消除不确定性的时候,恰恰造出了这些崩溃。
本文顺着书的思想,把四种互相咬合的崩坏——上下文污染、信息污染、角色弱化、循环推理——讲到"多轮对话无法进行"那一格,并给出工程答案。
二、上下文污染:把错误喂回给明天
单体"雪崩"受架构约束:结束符(EOS)封顶单条生成轨迹内的放大链,雪崩只发生在一轮回复中(L0 架构层,§3.1.5c)。但多智能体把生成串成了流程——上一轮的输出,就是下一轮的输入。
于是出现书里点名的两癌症之一(§5.4.3 边栏):上下文污染——错误前提被原样回灌下一轮,携毒传递、跨轮累积。它和 §3.3.3 的"跨节点污染"同构,只是发生在轮次间:节点衔接由脚本管格式不语义("形状合法、内容却错"的前提原封喂给下一节点),而现在"节点"就是"轮次"本身。
关键区别要钉死:这不是单条轨迹内的放大,而是跨边界的携毒(GIGO,垃圾进垃圾出)。雪崩里错误沿自回归链滚;上下文污染里错误先"落地"成事实,再被当作地基。后者更难治,因为污染的不是"推理过程",而是系统的前提与记忆。
三、信息污染:全量回灌的"记忆"
为什么上下文会被回灌?因为行业常把"记忆"理解成无结构、无仲裁、全量回灌——把对话每句话无差别塞回上下文,美其名曰记忆(§5.4.3 四重纪律①)。
这就是信息污染的温床。书里一个极其锋利的判准:靶子是"无结构、无仲裁、全量回灌的记忆",不是记忆本身(L485 把记忆称为"体外器官",是正解)。问题出在"全量"——每句话都记,噪声、错误、未定的猜测一并被固化,下一轮读到的不是"经验",而是"被污染的档案"。
根治之法不是"更好的记忆",而是斩断回灌边 + 用结构化仲裁记忆替代两步(§5.4.3):
- 每轮重置原始上下文:本轮推理链(含其循环与污染)死在本轮边界,循环无法跨轮。这是把 L0 封顶思想从生成内推到轮次间。重置斩断的是原始回灌,不是记忆。
- 用结构化、经仲裁的项目日志替代原始上下文:日志由多角色协作共建(冲突上报、双审、规则更新),只跨轮存活结构化且验真过的内容,癌症无法迁入。
四、角色弱化:当"分工"退化成"回声"
多智能体的卖点是"分工"。但分工要成立,角色必须达到足够的分化程度。书的判准是:分化只有程度之分,没有真假(§5.1.2 纪律)——一个角色多大程度上引入了独立视角、独立工具、独立外部记忆,决定了它多大程度上提升了达成目标的效率与质量。
当分化程度不足,角色退化成换马甲的单模型:只换 prompt 人格标签、共享同一先验,于是**「注意力」(比喻)覆盖仍重叠**。这就回到 §3.1.4 的"黑屋找钥匙":单体把固定一份 Σ=1 摊到所有域,每域分到的光都薄,深层错看不见——这就是**「注意力」稀释**(比喻)。角色弱化,本质就是多智能体版的注意力稀释:系统以为自己在"集思广益",实际是在把同一个偏见复印 N 份。
后果在共识层显现:无分化/同先验的多角色易达成一致,但共识质量低——一致就是一致、分不出真假,问题只在"质量":把它放到统一标准下校验、或放进结果导向情景,错误率就高(§3.1.5a)。角色弱化,先弱的是"信息",后弱的是"结论的可信度"。
五、循环推理:停不下来的两步
四种崩坏里,最直观也最致命的是循环推理(§5.4.3 边栏点名的第二癌症):
推理链无终止 + 错沿回灌跨轮,退化成 step repetition / 死循环(MAST FM-1.3;书 §6.5 已把 MAST 14 种失败模式逐一对照到本书框架)。
它的结构很清楚:模型基于上一轮(可能已被污染的)输出继续推,推出的新东西又被喂回去,再推……如果没有收敛门控,这个循环永远不会自然停。书里给了精确区分——控制流循环 vs 信息循环(§5.1.3):
- 控制流循环:循环的是动作,
done是人事先预设的布尔; - 信息循环(收敛):循环的是不确定性,停止是涌现的——最后一个有依据的意外被裁决、被消化后,系统自然不再转。
若把收敛读成 while not 共识 的预设布尔,正是书警告的"把信息循环读回控制流"的精确错误。循环推理,就是这条涌现退出条件失效:没有仲裁把意外消化掉,循环只能在"预设步数"或"默认 EOS"这类非涌现条件上被截停——这正是 MAST FM-3.1 过早终止的反面:不是太早停,而是转成死转,或干脆永远转。
六、对话死锁:三种笼子的合流
四种崩坏单独出现已是麻烦,它们真正的杀伤在于合流。
书里用"笼子"比喻三种病态:冻结、自指闭环、以消除不确定性为目标。当上下文污染(毒被回灌)+ 信息污染(记忆全量且未仲裁)+ 角色弱化(回声而非新信息)+ 循环推理(无门控的死转)同时存在——
没有新信息进入,手电在黑屋里朝向了自己,对话在两句相似的话之间反复横跳。
这恰好是"自指闭环"+"冻结"两种笼子的合流:多轮对话无法进行。系统没有崩溃(没有报错),但也没有前进(没有新不确定性被结构化、被收敛)。它表面上"在聊",实则已锁死。
注意根因的一致性:所有这些崩坏,都是通道层的失败——是"不确定性如何被结构、被收敛"这套结构坏了,而不是"模型不够聪明"。你越想用"更聪明/更多规则"去压平不确定性,越容易把循环推成死转、把回声当共识。
七、工程根治:CoordClaw 的四重纪律
书在 §5.4.3 给出的不是单个补丁,而是一套四重纪律,恰好对着上面四种崩坏(也是 README 里 CoordClaw 的设计落点):
| 崩坏 | 纪律 | 机制 |
|---|---|---|
| 上下文 / 信息污染 | 纵向防回灌 | 每轮重置原始上下文,循环死在本轮边界,无法跨轮 |
| 信息污染 | 横向防混用 | 话题/任务/项目隔离,不通用(对应 README 项目级 .data),不试图一套记忆通吃 |
| 信息 / 记忆癌变 | 结构化 + 仲裁 | 多角色共建项目日志(冲突上报、双审、规则更新),只跨轮存活验真过的内容 |
| 角色弱化 | 元层通用 = 分工 | 通用在元层组织设计(快速为各类任务组专门团队 = 分工,§5.1.7),不在执行层一套规则;分化程度靠独立视角/工具/外部记忆抬升 |
还差临门一脚:收敛门控。书的核心判准——收敛是动态过程,共识是其涌现退出条件(§5.1.2 / §5.1.3 / §6.5 FM-3.1 正名三处自洽)。对话要"进行得下去",靠的不是"聊够 N 轮",而是"冲突被裁决、被消化"这道涌现门:最后一个有依据的意外被收下,系统自然停。把退出条件交给预设步数,就是过早终止或死循环两种失败的根源。
一个常见质疑:"每轮重置,岂不丢信息?"书里的回答很干脆——看似丢,实则未丢(§5.4.3)。项目有多个角色,每轮所需上下文由两处持久源重组:(a) 各角色自身的角色定义;(b) 结构化项目日志。多角色互补:N 支角色各带聚焦视角(分布式角色注意力),集体重建了原始上下文曾提供的覆盖,且重建出的是经仲裁的高保真记忆,优于原始 dumps。CoordClaw 实测档案里长任务目标始终稳定——因目标活在角色定义 + 结构化日志中、每轮重读、多角色交叉核对,不押在会被重置的 ephemeral 推理链上。
八、回到不可计算:我们管的是通道,不是种子
把四种崩坏和根治合起来看,会撞上全书 spine(§5.1.2 边栏"不可计算 ≠ 概率"):
概率(Σ=1、采样、似然)是可算的;不可计算指的是另一层——内容/目标/目的是否"对"、是否接地于人的价值(书的「种子」),无法被封闭框架从内部归约。
上下文污染、信息污染、角色弱化、循环推理,全是通道层失败——是"不确定性如何被结构、被收敛"这套可描述的结构坏了。你修不好它们靠"算清种子",因为种子(正确性/人的目的)本身就不可算。能做的,是管住通道:
- 用每轮重置 + 结构化仲裁记忆,让污染无处迁入(通道的"门");
- 用高分化程度 + 按需真值锚,抬升共识质量与分化程度(通道的"质");
- 用涌现收敛门控,给循环一个会自己长的停止判据(通道的"出口")。
这也解释了为什么"多轮对话无法进行"这种死锁,最怕的不是模型笨,而是你误把可算的概率当成了智能、把"达成一致"误读成"已被正确性机制认证"。前者让你堆算力却治不了通道;后者让你在回声里自我满意、在死循环里以为"聊完了"。
书的立场始终是:你拼命消除的"不确定性",正是系统能正常工作的前提。 多智能体的健壮性,不来自把不确定压平,而来自承认不可计算、守住通道、让不确定性在结构里收敛——而不是在循环里空转。