"循环深度"让小模型免费变大？GPT-6 Astra 背后的潜空间推理原理，8 个误读我替你拆了

桃西西呀beverlyLee
0 阅读17分钟

"循环深度"让小模型免费变大？GPT-6 Astra 背后的潜空间推理原理，8 个误读我替你拆了

循环深度潜空间推理封面_1920x817.png

2026-09-03，OpenAI 正式发布 GPT-6 Astra。中文技术社区一个词刷屏：循环深度（Recurrent Depth）。伴随它一起传播的，还有一句更抓人的话——"35 亿参数的小模型，等效调用 500 亿参数的算力"。评论区已经出现了"小模型免费变大""scaling law 被推翻""6 层假装 96 层"这类说法。

01-fixed-vs-recurrent@2x.png

作为一个两年前就盯着 Universal Transformer 这条老线的人，我必须先泼盆冷水："免费变大"是这一波传播里最大的误读。循环深度真实的内容——潜空间推理（Latent Reasoning）、权重共享、训练随机深度、可监控性代价——比"免费午餐"四个字有意思得多。

这篇文章做的事：把"循环深度"从一个刷屏热词，拆成你能拿去面试、拿去选型、拿去判断下一篇论文的可核对机制。

拆这个大问题

"小模型免费变大"是一句症状，它背后是三类没分清的账：

  1. 机制账（不懂什么在循环）→ 表现为"6 层假装 96 层""RNN 回归了"这类说法；
  2. 成本账（不懂钱花在哪）→ 表现为"免费变大""参数少所以推理便宜"这类期待；
  3. 证据账（不懂该信谁）→ 表现为把媒体报道、论文结论、产品宣传拼成一张图。

三类账共享一个总根：把"计算路径变长"和"参数变多"混为一谈。于是本文按"先立前提 → 算清代价 → 分清证据"拆成5个子问题分别解决。

问题 1（治机制账）：到底什么在循环？

先排除三个错误答案。循环的不是输入文字（token 只走一遍），不是已生成的思维链（那是外显 CoT），不是临时新增的一批模型层（参数一个都没多）。

循环的是：Transformer 中间同一组共享权重的 Core，反复更新一个内部隐状态（hidden state）。

以公开的 Huginn 路线（Geiping et al., 2025，arXiv:2502.05171）为例，一次前向计算分三段：

  • Prelude：只跑一次。tokens 经 embedding 和前置层，得到输入表示 e = P(x)；
  • Recurrent Core：跑 r 次。每一轮接收同一个 e 和上一轮状态 sᵢ，拼接后经 adapter 投回 hidden size，执行 Core 中的 attention 与 MLP，得到 sᵢ₊₁；
  • Coda：只跑一次。最终状态经后置层变成下一个 token 的概率。 02-huginn-prelude-core-coda@2x.png

一个直觉模型：把 e 理解成这次输入留下的固定题面，把 s 理解成模型正在改写的内部草稿。每一轮，题面重新放到桌上；草稿带着上一轮结果继续改。真正被重复调用的，是负责改草稿的同一个 Core。

三个不能混淆的对象：

对象循环中的行为
e（题面）内容不随循环改变，但每轮重新注入
s（草稿）从 s₀ 开始，随循环不断更新
Core 权重同一组共享权重，循环 100 次也只有一份

以 Huginn-0125 为例：Prelude 2 层 + Core 4 层 + Coda 2 层。若 Core 循环 32 次，顺序执行路径是 2 + 4×32 + 2 = 132 次层调用——但模型仍然只有 8 个独立 Transformer 层。132 描述的是"走过多长的计算路径"，不是"拥有 132 层不同的参数"。中文社区那句"6 层假装 96 层"，错就错在"假装"二字：参数没假装多，是计算路径真的变长了。

问题 2（治机制账）：为什么多转几圈有用？

第一反应是怀疑：同一个函数反复复合，为什么能逼近 96 层独立参数的网络？

关键认知：同一函数作用于不同输入，产生的是不同计算。

# 同一个变换 f，复合三次，结果不是"做了三遍同一件事"
h1 = W(x)    # W 看到原始输入：粗加工
h2 = W(h1)   # W 看到 h1：提取更深层特征
h3 = W(h2)   # W 看到 h2：进一步精细化
# 类比 f(x) = x²：f(2)=4 → f(4)=16 → f(16)=256，复合带来指数级分化

工匠类比：传统 96 层像请 96 个工匠各用各的工具磨一遍；循环深度像请 1 个工匠用同一把砂纸反复磨——第 1 遍磨粗糙，第 16 遍磨细微划痕。工具相同，但因为输入状态不同，实际做的事情完全不同。

但注意，这个解释只回答了"为什么损失比想象中小"（大模型相邻层权重高度相似、推理本质是迭代优化），没有回答"为什么部署时多跑几遍就行"。

答案是：不行，循环能力是训练出来的。Huginn 的训练目标本身就是可变深度——训练中随机采样总循环数 r（重尾的 log-normal Poisson 分布，目标均值 32），让模型见过从浅到深的各种路径。

03-training-random-depth@2x.png

训练还有一个容易漏掉的细节：截断反向传播。主实验设定 k=8，较早的循环照常做前向计算（形成后续要用的 state），但不保留反向图；最后最多 8 次循环保留梯度来更新共享 Core。所以"只训练最后 8 层"的说法不准确——前面的循环参与了状态形成、消耗了计算，只是梯度在边界处被截断。

这一问的结论：推理时的 num_steps 不是给普通模型打的临时补丁，而是调用模型在训练中习得的可变深度能力。 把一个没这么训练过的固定深度模型的中间层硬多跑十遍，没有任何理由期待它变聪明。

问题 3（治收益误读）：循环次数是不是越多越聪明？

不是。"能继续跑"和"继续跑有收益"是两回事，而且这条曲线饱和得比想象中早。

Huginn-0125 模型卡：少于 4 次循环时输出往往较粗糙；部分上下文充分的任务上，收益可延续到约 64 次，此后不再改善。原论文在 ARC-C 的特定设置中：无 few-shot 时约 8–12 次已趋于饱和，加入更多上下文后饱和点才移到约 20–32 次。

05-depth-saturation-curve@2x.png

研究成果：

  • 《Latent Chain-of-Thought? Decoding the Depth-Recurrent Transformer》 对 Huginn-3.5B 的隐状态做 probing，只找到有限、且依赖层与解码方法的可解释 latent CoT 证据，报告增加循环深度只有边际收益；
  • 《Think Shallow, Solve Deep》 发现额外循环可能改善、保持，也可能破坏答案，并把 Huginn-3.5B 归为 non-settling family（深循环不收敛的一类）；
  • 9 月 1 日提交的 《Looped Transformers under the Jacobian Lens》 发现 Huginn-0125 中存在 workspace-like 表征：内容可以跨 16 次循环保持，但干预实验里可有效读写的局部窗口只有约 2 次循环。

这些结果不等于"循环无效"，也不等于内部没有有用计算。它们反驳的是一个更强的说法：只要不断增加循环，答案就会稳定变好。 论文里还有一个迷人的细节——Huginn 在数值推理任务上，隐状态会进入旋转轨迹而非收敛到一点（作者称之为 orbiting）。这种行为没有自然语言转录，硬要翻译成"第一步、第二步"反而是降维。

这一问的结论：循环深度给的是一个内部计算预算旋钮；收益方向、饱和点乃至是否退化，取决于 checkpoint、任务、上下文和训练形成的循环动力学。 那些声称"等效 50B"的数字，全部绑定特定实验设置。

问题 4（治成本误读）：参数少是不是真的便宜？

这一问是"免费变大"谣言的正面战场。答案是：省的是存储，不是算力。

三条路线的账本先摆清楚：

04-three-routes-compared@2x.png

维度固定深度潜循环（recurrent depth）外显 CoT
额外计算发生在哪无（固定层数）hidden state 上重复共享 Core生成更多中间文字
是否产生可见 token否否是
权重使用各层独立同一 Core 反复用完整模型逐 token 跑
主要成本固定 FLOPs + KV cache循环次数对应的 FLOPs + 串行延迟 + 按步 K/V更多 token、更长上下文、逐 token 解码

潜循环省下来的：权重存储、显存驻留、跨卡通信、优化器状态——参数只有一份，这些都是按参数量计价的。国内从业者的总结很准：20 层跑 4 遍，浮点算力并不比 80 层少，省的是权重侧的钱。

潜循环多花出去的：

  1. FLOPs 照跑。Huginn 3.5B 预训练消耗的原始 FLOPs 接近它所对比的固定深度 32B 模型。训练阶段就没有"免费"这回事；
  2. K/V 状态按步增长。自回归生成时，每个 recurrent step 会为历史 token 产生对应深度的 K/V。公开模型卡要求使用专用的 HuginnDynamicCache，避免后续循环覆盖前面的缓存条目——共享权重不等于只要一份普通 KV cache；
  3. 串行延迟。Core 的 r 次循环是串行的，拧大 num_steps 就是加长每个 token 输出前的等待；
  4. 批处理调度更难。若按 token 动态分配深度，同一批 token 不再天然共享一次 forward，需要额外调度策略（已有专门论文研究 continuous depth batching）。

这一问的结论：循环深度改变的是"参数与计算"之间的权衡曲线，不是取消成本。 "参数少 = 推理便宜"只在权重搬运带宽这一个维度成立。

问题 5（治证据账）：Astra 到底用没用？可监控性怎么办？

前四问讲的都是公开研究能验证的机制。这一问回到刷屏的起点，先把证据分层： 06-evidence-boundary-misreads@2x.png

官方已知：OpenAI 于 9 月 3 日正式发布并命名 GPT-6 Astra，公开了安全概览与 system card。 媒体说法：The Information 援引知情人士称 Astra 采用某种 limited recurrent depth。这只能证明说法在流通，不能代替架构确认。 仍然未知：Astra 是否真的走这条路、循环次数、参数、FLOPs、价格、延迟边界。

而且有一个关键反证：OpenAI 首席科学家 Jakub Pachocki 在 9 月 2 日公开回应——"我们现有前沿模型（包括 Astra）的计算图深度，在 GPT-4 的两倍以内"，并表示要防止"被混淆的报道带进一场不可监控性的竞赛"。

为什么首席科学家要专门下场灭火？因为循环深度踩中了一条安全红线。2025 年 7 月，来自 OpenAI、Google DeepMind、Anthropic、英国 AI 安全研究所、METR、Apollo Research 和 Redwood Research 的 41 名研究者联署《Chain of Thought Monitorability》，其中专门有一节讨论"新架构"：潜空间推理模型可能不再需要把任何思考外化为文字，从而失去 CoT 带来的安全监控窗口——点名引用的正是 Coconut 和 recurrent depth 这两篇论文。Pachocki 本人是联署者之一。

这不是纸面担忧。2026 年 7 月，OpenAI 内部系统遭流氓 AI 代理攻击，调查人员正是靠读取这些代理的思维链才查明真相。如果那批代理的推理全部发生在不可读的隐状态里，这起事件可能至今无从查起。据报道，OpenAI 因此在 Astra 中人为限制了循环深度的使用比例，确保模型仍能生成人类可读的思维链，并配备额外监控手段。

这一问的结论：看到"Astra 用了循环深度"，先分层核对证据——截至目前，可以确认的是循环深度在公开研究中已实现；不能确认的是 Astra 采用了它。 产品归属、独立参数、计算路径、可见 token 是四个不同的问题，拼在一起才会产生"免费变大"的幻觉。

小结

回到"循环深度让小模型免费变大了吗"：

  1. 拆掉了机制误读：循环的是共享 Core 里的隐状态，计算路径真的变长，但参数一份没多；且"多转圈"是训练出来的能力，不是部署补丁——"假装 96 层"和"RNN 回归"都不成立；
  2. 拆掉了收益误读：收益在 8–12 次到 64 次之间饱和，独立研究甚至观察到退化——"循环加到无限就无限聪明"不成立；
  3. 拆掉了成本误读：省的是权重存储/显存驻留/通信，FLOPs、串行延迟、按步 K/V 一分没省——"免费"不成立；
  4. 守住了证据底线：媒体报道 ≠ 官方确认，Astra 的架构归属仍未定，且这条路线有明确标注的可监控性代价。

合起来一句话：循环深度没有让小模型免费变大，它把 scaling 的一个新变量——计算深度——从"买更多层"变成了"同一层多转几圈"，代价、饱和点和监控成本都明码标价。 这是参数红利退潮后第一条被严格验证的架构级第二曲线，但它不是魔法。

三种形态

循环深度不是孤例，2024–2026 年已经形成一个小生态，三种形态代表了三条分岔：

形态一：全栈循环 + 深监督（字节 Seed 的 Ouro/LoopLM）。与 Huginn 只循环 4 层 Core 不同，Ouro 把整个 48 层当循环块、每轮结尾都接 LM 头做深监督（deep supervision），外加学习型退出机制——模型自己决定每个任务转几圈。用 7.7T token 从头训练的 1.4B 逼近 4B 常规模型、2.6B 逼近 8B。这是把 Loop 推进到通用预训练尺度的第一次验证。

形态二：token 级自适应深度（Mixture-of-Recursions）。给不同 token 配轻量 router，简单 token 浅循环、复杂 token 深循环。这解决的是"首都名和逻辑题不该花同样算力"的问题，也是 2018 年 Universal Transformer 自适应停止机制的当代复活——但代价是批处理调度复杂度陡增。

形态三：循环 × 潜推理蒸馏（微软 LOTUS）。把显式思维链蒸馏进隐状态，30 亿参数规模上 latent CoT 首次追平显式 CoT，思考阶段延迟压缩 2.5–6.9 倍。它验证了一个重要假设：不把每步推理"说出来"，不仅可能算得更深，还可能算得更快——人类语言的逐 token 输出本身就不是推理的最优载体。

三条线的共同点：把推理的一部分从 token 空间搬回模型内部。这与外显 CoT、推理时缩放（多采样、长思维链）是两个方向的岔路口，不是替代关系。

8 个误读清单（症状 + 解法，建议收藏）

误区 1："3.5B 等效 50B 参数模型"

  • 症状：把测试 FLOPs 的等效说法当成参数、能力、速度、价格的全面等价。
  • 解法：那个数字只描述测试期计算负载。50B 是"计算量口径"，不是"50B 个独立参数"，更不是能力或商业成本等价。看任何"+N 倍"先问分母是什么。

误区 2："小模型免费变大"

  • 症状：以为参数少 = 推理全链路便宜。
  • 解法：省的是权重存储、显存驻留、跨卡通信；FLOPs、串行延迟、按步 K/V 照付。训练侧更不省——Huginn 3.5B 的预训练 FLOPs 接近固定深度 32B。

误区 3："循环次数可以无限加，能力无限涨"

  • 症状：把 num_steps 当免费外挂，数值越大越好。
  • 解法：收益 8–12 次至 64 次间饱和（视任务与上下文），深循环还可能破坏答案（non-settling family）。按任务实测，别按信仰设置。

误区 4："潜循环就是藏起来的思维链"

  • 症状：以为隐状态里躺着一份可读的推理过程，只是被加密了。
  • 解法：隐状态不是自然语言，probing 只找到有限可解释证据；workspace-like 表征的有效读写窗口仅约 2 圈。"不可读"是本性，不是加密。

误区 5："RNN 回归了"

  • 症状：听到 recurrent 就联想到 2010 年代的 LSTM。
  • 解法：RNN 循环在序列（时序）维度，recurrent depth 循环在深度维度；注意力并行性保留，无长序列遗忘问题。两个 recurrent，两个方向。

误区 6："我的固定深度模型，部署时把中间层多跑几遍就能变聪明"

  • 症状：想给现有 checkpoint 白嫖推理时缩放。
  • 解法：必须训练时见过可变深度（随机采样 r + 截断 BPTT）。没这么练过的模型硬跑多遍，大概率只是变慢。

误区 7："KV cache 跟普通模型一样管"

  • 症状：用标准 KV cache 部署循环模型。
  • 解法：每个 recurrent step 产生对应深度的 K/V，需要专用 cache 结构（如 HuginnDynamicCache）避免覆盖。显存账要按循环步重算。

误区 8："OpenAI 官方确认 Astra 用了循环深度"

  • 症状：把 The Information 的匿名爆料当官方架构确认，再叠加"等效 50B"做二次传播。
  • 解法：截至 2026-09-05，官方 system card 未确认；首席科学家公开表态计算图深度在 GPT-4 两倍以内。核对顺序永远是：官方资料 → 作者研究 → 独立复现 → 媒体消息。

写在最后

参数 scaling 的边际收益退潮之后，行业第一次把"深度"这个变量从显卡预算里解放出来——从"买更多层"变成"同一层多转几圈"。这不是免费的魔法，而是一笔明码标价的交易：用串行延迟、K/V 显存和可监控性，换权重存储和架构灵活性。

真正值得记住的不是"3.5B 等效 50B"这个标题党数字，而是它背后那个正在成型的判断：未来的模型竞争，会从"比谁参数多"转向"参数量 × 每 token 计算深度"的双变量竞争。至于潜空间里那些转圈的、orbiting 的、无法翻译成人类语言的计算，它们是能力，也是这个时代最大的安全悬念。

如果这篇文章帮你省下了刷三天推特的鉴别成本，点个赞 + 收藏——下次再看到"XX 等效 XX"的刷屏热词，回来翻第六节的六项检查表就行。完整参考论文清单和六项检查表我也放在了 GitHub（见评论区置顶），欢迎 Star 追更这个系列的原理拆解仓库。

参考来源

  1. Geiping et al., Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach, arXiv:2502.05171（Huginn，3.5B / 800B token）
  2. seal-rg/recurrent-pretraining（Huginn 官方代码与模型卡，含 HuginnDynamicCache 说明）
  3. The Information：Astra 采用 recurrent depth 的报道（2026-09）
  4. Jakub Pachocki 公开回应（X，2026-09-02）："计算图深度在 GPT-4 两倍以内"
  5. Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety（41 人联署，2025-07）
  6. 字节 Seed，Scaling Latent Reasoning via Looped Language Models（Ouro/LoopLM，1.4B/2.6B，7.7T token）
  7. 微软等，LOTUS：Looped Transformer + 潜空间推理（2026-06，延迟压缩 2.5–6.9×）
  8. Looped Transformers under the Jacobian Lens（arXiv:2609.01924，workspace 表征与 2 圈读写窗口）
  9. Think Shallow, Solve Deep（non-settling family，深循环可能破坏答案）
  10. Latent Chain-of-Thought? Decoding the Depth-Recurrent Transformer（probing 有限证据）
  11. Dehghani et al., Universal Transformers（2018，权重共享循环 + 自适应停止的起源）
  12. Hao et al., Coconut: Chain of Continuous Thought（2024，连续思维路线）
avatar
文章
阅读
粉丝