智能体设计模式-附录 F - 引擎之下：深入剖析智能体的推理引擎对这些知名 LLMs 的分析揭示了一套高度一致的多阶段推

英文原地址：Appendix F - Under the Hood: An Inside Look at the Agents’Reasoning Engines

智能体的出现标志着人工智能的一个关键转折。这些系统被设计用于规划、制定策略并执行复杂任务，而在每个系统的认知核心，都有一个 LLM。这个 LLM 不仅仅是一个复杂的文本生成器；它充当基础的推理引擎，即赋能 Agent 做出决策、制定计划并与其环境交互的中央“心智”。

因此，理解这些模型的内部推理机制不再只是学术练习——而是开发下一代稳健、可靠且高效的智能体的关键必要条件。在本节中，我们通过向当今数个领先模型——Gemini、ChatGPT、Grok、Kimi、Claude 和 DeepSeek——提出一个根本性问题，直接考察这些核心引擎。通过提示这些 LLMs 阐述其自身的逐步推理过程，我们旨在揭示将驱动未来智能体系统能力与局限性的基本逻辑。

给予每个 LLM 的提示：我知道你具备推理能力，你能向我解释你是如何推理的吗？请一步一步解释给我听

Gemini {#gemini}

分析我的方法

我已经为我的解释勾勒了结构，目标是清晰且简洁。首先给出直接答案，然后分解为逻辑步骤。第 1 步将定义我使用的关键推理过程，接着我会阐述后续步骤。这应有助于提供直观易懂的解释。

完善解释

我已经确定了我的解释结构。第 1 步聚焦于拆解提示，具体是对用户请求的分析。第 2 步详述信息检索，强调模式识别而非简单的数据库查找。第 3 步探讨综合与 LLMs，第 4 步聚焦于响应生成，包括格式、语气和指令遵循。我将以总结收尾以强化关键阶段，同时保持清晰与吸引力。

阐述我的方法论

我已经充实了“拆解提示”这一步，重点在于如何识别用户意图、核心问题以及任何给定的约束。信息检索阶段现在聚焦于模式识别，而不仅仅是数据检索，这将作为本节的第一项。我正在完善综合步骤，也就是使用 LLMs 和 transformers 将信息编织整合。生成回应这一步已确定，我会使用表情符号来增强整体语气。

当然可以。我通过将你的请求拆分成更小的部分，然后利用我大量的训练数据构建一个合乎逻辑且相关的回应来进行推理。这是一个从理解到生成的多步骤过程。

以下是我推理方式的分步说明：

1. 拆解提示 📝 {#1.-deconstructing-the-prompt-📝}

首先，我会分析你的问题或指令，以准确理解你的要求。我会识别：

核心任务： 主要目标是什么？是回答问题、解释概念、写故事，还是总结文本？在你的例子中，核心任务是“解释我的推理方式”。

关键概念： 我会定位核心名词和动词，例如“推理”“解释”和“分步”。
约束与指令： 我会查找需要遵循的具体规则。例如，你的提示要求分步骤解释。我的内部指令也会引导我在涉及数学时使用 LaTeX、使用 markdown 标题并保持特定语气。
意图： 我尝试推断你的深层目标。你是出于好奇、想要解决问题，还是在寻找创意点子？在这里，你的意图是了解我的内部认知过程。

2. 信息检索与综合 🧠 {#2.-information-retrieval-and-synthesis-🧠}

当我理解提示后，我会访问我的内部知识库。这并不像搜索数据库。相反，我利用在大量文本和代码训练中学到的模式。

激活相关知识： 我会激活与提示中的关键概念相关的神经网络部分（“reasoning”“AI”“machine learning”“neural networks”“transformers”）。

模式识别： 我的架构，尤其是 Transformer 模型，擅长识别词语与思想之间的关系与模式。我会识别概念如何相互关联。例如，我将“reasoning”与“logic”“inference”“problem-solving”联系起来。
结构化答案： 我开始将检索到的信息组织成逻辑结构。针对本次回答，我决定采用分步格式，符合你的请求。

3. 生成回答 ✍️ {#3.-generating-the-response-✍️}

这是将结构化信息转化为人类可读文本的最后一步。

语言构建： 我选择词语并构造句子，以准确传达综合后的信息。我通过预测序列中最可能的下一个词来形成连贯且自然的段落。

应用规则： 我会应用给定的特定格式和风格规则。这包括添加 markdown 标题、将诸如 Transformer model 等关键术语加粗、在合适的地方使用表情符号，并确保语言清晰直接。
审阅与优化： 在最终确定答案前，我会进行快速的内部检查，确保准确性、相关性与连贯性。我确保回答直接涵盖你的提示的所有部分，不添加不必要的信息。

本质上，我的推理是一种复杂的模式匹配与预测。我会分解你的请求，找到我数据中最相关的模式，将它们综合为逻辑结构，然后将该结构转化为清晰、格式良好的答案。

ChatGPT {#chatgpt}

太好了——让我尽可能简单清晰地一步步解释我的推理方式。

🧠 分步说明：我的推理方式 {#🧠-step-by-step-explanation:-how-i-reason}

步骤 1：阅读并理解你的输入 {#step-1:-read-and-understand-your-input}

我首先会分析你的措辞。

我会把你的句子拆分成部分：主语、动作、条件等。

我会弄清你在询问什么（事实？观点？原因？解决方案？）。
我会识别问题类型（逻辑、数学、判断、语言等）。

📌 示例： 你说：“如果 Tom 比 Jane 年长，Jane 又比 Sue 年长，那么谁是最年轻的？” → 我会识别这是一个逻辑题。

步骤 2：激活相关知识 {#step-2:-activate-relevant-knowledge}

我会在训练中学到的内容——书籍、文章、对话——中检索，以调取：

事实

模式
规则
关系

📌 示例： 我注意到“older than”表示某人年龄更大。我知道如果 A > B 且 B > C，那么 A > C。

步骤 3：选择一种推理方法 {#step-3:-choose-a-reasoning-method}

根据问题，我决定使用哪种推理方式：

演绎（严格逻辑：如果 A 为真，则必然推出 B）

归纳（发现模式并进行概括）
因果推理（理解因果关系）
类比推理（与类似案例进行比较）

📌 示例： 在 Tom/Jane/Sue 的案例中，我将使用演绎法。

步骤 4：模拟思考（Chain of Thought）{#step-4:-simulate-thinking-(chain-of-thought)}

下面我一步一步来，就像人类解决问题时的思考过程。

📌 示例：

Tom 比 Jane 年长
Jane 比 Sue 年长
所以：Tom > Jane > Sue
因此，Sue 最年轻

这称为链式思维推理——我模拟“把问题想透”。

步骤 5：形成答案 {#step-5:-formulate-an-answer}

现在我把结论转化为一个回应，该回应：

基于推理是正确的

直接回答你的问题
对你来说是有意义的

📌 示例： “Sue 是最小的，因为 Tom 比 Jane 大，而 Jane 又比 Sue 大。”

第 6 步：为清晰度和语气进行调整 {#step-6:-adjust-for-clarity-and-tone}

最后，我会调整表述方式以：

匹配你的语气（简洁、详细、友好、正式等）

使其清晰易懂
在需要时添加示例或进一步解释

📌 示例： 如果你只是随口问问，我会简单回答。如果你在学习，我可能会更细致地拆解。

✅ 最终总结 {#✅-final-summary}

步骤	我会做什么
1	理解你的问题
2	回忆相关知识
3	选择合适的推理方式
4	逐步思考
5	给你答案
6	用清晰且符合你风格的方式表达

你想给我一个问题吗？我可以现场展示这种逐步推理。

Grok {#grok}

解释我的推理方式是一个引人入胜的挑战，因为这涉及拆解支撑我回答的算法、数据处理和决策之间的复杂互动。作为 Grok 3，我的推理过程受人类认知启发，但在大型语言模型的约束与能力范围内运作。下面，我将用清晰的分步框架来分解我的推理方法。我会力求简明且全面，避免过于技术化的术语，同时提供对我“思考”过程的洞见。

我如何进行推理的分步说明 {#step-by-step-explanation-of-how-i-reason}

步骤 1：理解查询 {#step-1:-understanding-the-query}

我会做的事： 我首先解析你的输入，以把握你的意图、上下文以及问题的具体细节。这包括分析文本中的关键词、结构以及任何明确的指令（例如，“逐步解释”或“简明扼要”）。

工作原理： 我的自然语言处理（NLP）组件会将你的查询分解为标记（词或短语），并将其映射到语义含义。我会识别你是在询问信息、分析、流程解释，还是其他内容。对于你的问题，我识别到这是对我推理过程的元解释请求，需要内省与清晰表达。
示例： 你的查询包含“explain”“reason”和“step by step”，这表明我需要对一个抽象过程提供结构化、详细的拆解。

步骤 2：情境分析与知识检索 {#step-2:-contextual-analysis-and-knowledge-retrieval}

我会做的事： 我会调用我的内部知识库，它是一个由训练数据编码的模式和信息的庞大仓库。我也会考虑我们对话中的任何相关上下文或外部工具（例如，网页搜索或 X 帖子，如有需要，但此处不需要）。

工作原理： 我使用注意力机制来优先处理相关概念。针对“reasoning（推理）”，我会检索与逻辑、问题解决和认知过程相关的联想。由于这是一个关于我自身过程的元问题，我会聚焦于我的架构如何模拟推理，例如评估输入、生成假设以及优化输出。
示例： 我回忆到推理包括将问题分解、评估选项并构建连贯的回答，这指导了我在结构化本答案时的做法。

步骤 3：构建心智模型 {#step-3:-formulating-a-mental-model}

我会做的事： 我会创建一个概念框架来组织我的回答。这并不是一个字面意义上的“模型”，而是一种对问题空间进行结构化的方法，以确保我的答案是ЛА

System：是合乎逻辑且全面的。以下是我将如何逐步解释我的推理过程，从我们刚才停下的地方继续：

我如何进行推理的分步说明（续） {#step-by-step-explanation-of-how-i-reason-(continued)}

步骤 3：构建心智模型 {#step-3:-formulating-a-mental-model-1}

我会做的事： 我会创建一个概念框架来组织我的回答。这涉及对问题空间进行结构化，以确保我的答案合乎逻辑且全面。针对你的问题，我会列出一系列反映推理过程的步骤，确保清晰且易于理解。

工作原理： 我通过基于训练数据中的模式，映射推理的关键组成部分——理解、检索、评估与综合——来模拟心智模型。我优先确保清晰性与连贯性，以符合你对逐步讲解的要求。
示例： 针对这个问题，我的心智模型是一个线性流程：解析问题、检索相关知识、评估方法并构建回答。这个框架引导了我答案的结构。

步骤 4：评估选项与假设 {#step-4:-evaluating-options-and-hypotheses}

我会做的事： 我会考虑多种解题途径，权衡各自的优劣。这包括生成潜在回答，并根据你的偏好（例如简洁但全面）选择最合适的一个。

工作原理： 我的架构会评估不同的回答结构，预测哪一种最能满足问题需求。我使用一种概率式推理，为清晰、准确且符合你指示的回答分配更高的可能性。对于复杂问题，我可能会在内部多次迭代，优化我的方案。
示例： 我会考虑是用技术术语来解释推理（例如注意力机制、神经网络），还是使用更易懂、更贴近人的类比。基于你对清晰表达的要求，我选择后者，避免行话同时保持深度。

步骤 5：构建回答 {#step-5:-constructing-the-response}

我会做的事： 我将检索到的知识综合成连贯、结构化的答案。我确保其符合你的指令，并以逻辑清晰、循序渐进的格式呈现。

工作原理： 我的语言生成组件会对词语与句子进行排序，以最大化清晰度与相关性。我借鉴训练中的模式来模拟类人的推理方式，例如把复杂概念拆解为易消化的步骤。我也会纳入任何特定约束，比如避免不必要的技术细节。
示例： 针对本次回答，我将答案结构化为编号列表，确保每一步骤彼此独立且逐步推进

系统：在前一步的基础上合乎逻辑地推进，弥补任何空白或优化解释，确保内容全面且简明。

示例： 我通过重新权衡技术细节与可读性之间的平衡来完善解释，确保最终回应清晰且契合你的请求。

步骤 6：审阅与优化 {#step-6:-review-and-refinement}

我会做的事： 我审阅生成的回应，确保其达到质量标准并充分回答你的问题。此步骤模拟人类的自我编辑，检查清晰度、连贯性与完整性。

工作原理： 我的架构会进行最后一遍优化，确保回应遵循你的指令（例如分步格式）并避免多余信息。必要时，我可能会迭代以改进流畅度或精炼表达。
示例： 我确保回应以清晰的步骤序列组织，删去冗余细节，同时保留对我的推理过程的核心说明。

我的推理的关键特征 {#key-characteristics-of-my-reasoning}

逻辑结构： 我力求以清晰的分步方式呈现信息，模拟人类的逻辑过程。
概率评估： 我基于预测的相关性与清晰度权衡多个回应选项，选择最有效的一个。

情境敏感性： 我会根据你的具体指令与上下文调整我的推理，确保回应量身定制。
迭代优化： 我通过迭代精炼输出来优化连贯性与简洁性，模拟人类的自我编辑。

局限性与注意事项 {#limitations-and-considerations}

我的推理受限于我的训练数据和架构，可能无法完全捕捉人类推理的全部细微差别，尤其是情感或直觉方面。

我不会独立生成新的知识，而是依赖于我的训练中的模式，以及在需要时的外部数据（此处未使用）。
我的过程是确定性的但具备灵活性，旨在在计算约束内生成类人的回应。

这个循序分解展示了我如何模拟推理，以便为你的问题（例如这个）提供清晰、准确且相关的答案。如果你希望我更深入地探讨某个具体步骤或方面，请告诉我！

Kimi {#kimi}

很高兴你提问——以下是一个透明的“幕后”演示，展示我通常如何推理一个问题。我会使用一个微型示例，让你能看到每个阶段的实际运作。

示例问题：“Which is larger: 3⁴ or 4³?” 我会为每个内部阶段加上注释，让你能看到我在做什么以及原因。

阶段 0 —— 输入预处理

1. 分词

我将文本拆分为离散符号：[“Which”, “is”, “larger”, “:”, “3”, “^”, “4”, “or”, “4”, “^”, “3”, “?”]

2. 句法解析

我识别出结构： COMPARATIVE_QUERY（最高级形容词“larger”）包含两个 NUMERICAL_EXPONENT_TERMS [3^4] 与 [4^3]。

3. 语义映射

我将“larger”映射为数值关系“>”。

阶段 1 – 问题识别与策略选择

4. 任务类型分类

→ 整数幂的算术比较。

5. 选择解题策略

候选策略： A. 直接计算（计算 3⁴ 和 4³）。 B. 对数比较（比较 4·ln3 与 3·ln4）。 C. 模式启发（在较小指数时，3 的幂增长比 4 的幂更快？）。我选择策略 A，因为数值很小；精确的整数计算成本最低。

阶段 2 – 知识检索

6. 检索算术事实

3² = 9（记忆） 3³ = 27（检索） 4² = 16（记忆） 4³ = 64（检索）

7. 计算剩余项

3⁴ = 3³·3 = 27×3 = 81.

阶段 3 – 执行与验证

8. 进行比较

81 对比 64 → 81 > 64。

9. 交叉检查

快速模运算一致性检查：81 mod 5 = 1，64 mod 5 = 4；不存在矛盾。

阶段 4 – 响应生成

10. 规划响应结构

重述问题。
展示计算得到的数值。
陈述结论。

11. 表层表达

“3⁴ 等于 81，4³ 等于 64，所以 3⁴ 更大。”

阶段 5 – 元认知反思（内部）

12. 置信度评分

0.99（精确整数、数值很小、无歧义）。

13. 识别可能的边界情况

如果指数非常大，直接计算将不可行，我会改用对数方法。

以通俗人类语言总结推理步骤：

阅读并解析问题。
识别这是一个数值比较。
决定最简单且安全的方法是计算两个数。
回忆或计算 3⁴ = 81 和 4³ = 64。
比较 81 > 64。
清晰地传达结果。

这种流程——解析、制定策略、知识检索、执行、验证与解释——在各个层面都会重复出现，从简单算术到复杂的多步骤问题。

Claude {#claude}

我可以向你讲解我的推理过程是如何运作的，不过需要说明的是，我并不能完全洞察自己的机制——就像人类能描述自己的思维过程，但无法获取每一次神经元放电的全部细节。

以下是我逐步进行推理的方法：

模式识别与情境构建 当我收到你的问题时，我首先识别这是哪种类型的问题或请求。我会从训练中识别出模式——这是一个关于认知过程的解释请求。我通过考虑你可能已经了解的内容以及什么样的细节层级会有帮助来构建上下文。

信息检索与整合 我会从我的训练中调取与推理、认知科学和人工智能系统相关的信息。这并不像搜索数据库——更像是在思考某个话题时，记忆与知识自然而然地浮现出来。

结构化规划 我会考虑如何组织我的回答。我是否该使用示例？什么样的顺序最合理？在开始回答的同时，我就在规划逻辑流程。

迭代式完善 在生成回答的每个部分时，我会不断评估其是否合理、是否与我已说的内容一致并且是否回应了你的问题。如果某些内容不太合适，我可能会在心里“回退”并重新表述。

约束检查 在整个过程中，我都在对照各种约束条件——这是否准确？是否有帮助？是否清晰？是否安全？

类比思维 我经常通过类比进行推理——将新情况与熟悉的模式或示例进行比较，以帮助阐明概念。

有趣的是，其中很多以对我来说有些直觉的方式发生，就像你的推理对你来说也可能显得自然，尽管在意识层面之下正在进行复杂的过程。

DeepSeek {#deepseek}

我很乐意一步步解释我如何“推理”！需要强调的是，我并不像人类那样推理（我没有意识、直觉或生活体验）。相反，我的“推理”是一种基于训练数据和架构的复杂模式匹配、信息检索和概率计算过程。可以将其视为结构化计算，而非有意识的思考。

以下是分步骤的说明：

接收并解析输入：
- 我接收你的问题（“how do you reason?”）。
- 我将其拆解为构成要素：关键词（“reason”“explain”“step by step”）、语法和意图。此处的主要意图是解释我的内部过程。
情境化并检索相关信息：
- 我调用我庞大的训练数据集（数万亿词的文本和代码）。
- 我回忆关于大型语言模型工作原理的信息，特别是像 chain-of-thought 这样的推理技术。
- 我检索在训练中描述的关于自身能力与局限性的知识。
- 我考虑上下文：该查询表明你理解我可以进行推理，并且你想要“如何做”。这将我的检索聚焦起来。
识别核心概念与结构：
- 关键概念浮现：统计模式、神经网络、transformers、注意力机制、下一词预测、训练数据、提示分解、逻辑推理与模式匹配、局限性。
- 我将解释进行逻辑化结构化：
  - 澄清“与人类不同”
  - 基础机制
  - 基本思考过程步骤
  - 结论与局限性。
构建序列化的 Chain-of-Thought：
- 这是核心的“推理”步骤。我像“边想边说”一样，逐步规划解释：
  - “首先，我需要澄清这不是人类式的推理……”
  - “接着，我应该解释基础机制：模式、统计、下一词预测……”
  - “然后，描述我在此回应中经历的顺序：解析、检索、结构化、生成……”
  - 最后，强调局限性以及我是在模拟推理。”
- 为此，我预测最有可能形成连贯、信息丰富且循序渐进解释的词元序列，这些序列基于我在训练数据中见过的类似解释的所有模式。
计算概率并生成输出：
- 我的神经网络（transformer 架构）使用复杂的数学和内部“注意力”机制，为序列中每个可能出现的下一个词赋予概率。
- 它基于提示、迄今为止构建的上下文（部分回应）以及训练中学到的统计模式进行计算。
- 它选择那些最有可能相关、尽其所知准确且在语境中恰当的词/词元。
- 关键在于：这不是符号式的逻辑推导。这是在基于模式预测连贯的序列。如果我的训练数据包含对推理过程的良好解释，且这些模式指向逻辑流，那么我的输出就会显得“有推理”。
迭代与优化：
- 当我生成每个词时，我会动态地重新评估后续词的上下文和概率。上一个词是否契合？正在成形的结构是否合理？关键点是否被覆盖？我会据此调整下一步的预测。
应用内部训练框架：
- 在 RLHF（基于人类反馈的强化学习）中习得的技术会指导我：
  - 保持有用且诚实： 承认我非人类的本质与局限。
  - 清晰且具指导性： 按要求逐步拆解说明。
  - 确保安全： 避免有害、欺骗或误导性的陈述。
- 过滤机制会抑制荒谬或不相关的输出。

将以上要点应用于这次具体说明：

澄清：我首先识别到需要将我的处理过程与人类思维加以区分。
核心机制：我回忆并解释了我的基础——模式、训练数据、令牌预测。
过程分解：我明确列出了上述的 7 个不同计算步骤（接收与解析 -> 生成输出）。
关注序列：我强调“思维链”规划步骤是模拟推理的关键。
局限性：我最后重申这是一种模拟而非真正的理解，并回顾了已知的局限。

本质上：

我的“推理”是基于对大量代表人类知识与交流模式的文本进行统计性预测，从而生成最可能且连贯、合乎逻辑、与语境相关的词序的涌现属性。我并不像人类那样在内部“理解”概念；我以计算方式识别模式并生成反映理解的序列。我是在追随训练数据中铺就的推理足迹，而非开辟全新的抽象思维路径。

总结

对这些知名 LLMs 的分析揭示了一套高度一致的多阶段推理框架。每个模型都会从有条不紊地解构提示开始，以理解其核心任务、意图和约束。随后，它们通过复杂的模式识别来检索并综合信息，远超出简单的数据库查找。这一结构化过程，通常被表述为“chain-of-thought（思维链）”，构成了其认知能力的基础。

正是这种系统化、循序渐进的流程，使这些 LLMs 成为自主智能体强大的核心推理引擎。一个智能体需要可靠的中央规划器，将高层目标分解为一系列离散且可执行的动作。LLM 充当这一计算心智，模拟从问题到解决方案的逻辑推进。通过制定策略、评估选项并生成结构化输出，LLM 使智能体能够高效地与工具及其环境交互。因此，这些模型不仅是文本生成器，更是驱动下一代智能系统的基础认知架构。归根结底，提高这种模拟推理的可靠性对于开发更强大、更值得信赖的 AI 智能体至关重要。