别把脑子交给 AI:工程师的责任边界

0 阅读5分钟

本文基于 Addy Osmani 的 X 长文《Own the Outer Loop》原创重构,非逐句翻译。


引子

上周 Review 一个 PR,200 行变更里 180 行是 AI 写的。我盯着屏幕犹豫了三分钟:我没亲手写过这些代码,但我要点"通过"吗?

这不是我一个人的困惑。Sonar 2026 年的报告(调查了 500+ 个开发团队)显示,42% 的提交代码已经是 AI 生成或显著 AI 辅助的,且预计持续增长而非趋于平稳。

一个问题摆到桌上了:代码变多了,谁负责?

Google 工程师、Chrome 团队核心成员 Addy Osmani 给出的答案是:工程师需要掌握"外部循环(Outer Loop)"——不是写代码的人,而是对代码的存在负责的人。


内循环 vs 外循环

过去一年,Agentic Engineering 的讨论从"怎么写 Prompt"转向"怎么设计循环"。我在上篇文章《Loop Engineering》里介绍过核心思想:设计让 Agent 自己跑循环的系统,而不是手动驱动每一步。

但这个循环有内外之分。

内循环(Inner Loop) 是 Agent 执行的地方:调查任务 → 实现方案 → 验证结果 → 重复。这个未来已经来了。Claude Code(Anthropic 的命令行编程助手)、Codex(GitHub 的 AI 编码助手)、各种编码 Agent 都在这里跑。

外循环(Outer Loop) 是人类的地盘:决定什么值得做、设定约束、审查证据、做出裁决、拥有后果。

我理解 Osmani 的核心是三个词:

Quality(质量) = 反向压力。不是给 Agent 无限自主权,而是刚好足够的自主权,加上足够的检查机制来阻止、调节、验证。类型检查、测试、审计日志、沙箱限制——这些不是绊脚石,是让系统保持诚实的信号。我遇到过 AI 生成了一段 SQL 不带 WHERE 条件,幸好测试覆盖了边界场景才拦住。

Verdict(裁决/生产决策) = 模型可以写代码,但"发布/阻止/拒绝"的决定必须由人类做出。就像电影的执行制片人——出了问题大家找你,不是找导演。你的名字在作品上,你就必须能站在它后面。

Answerability(可解释性/可问责性) = 当有人问"为什么这样改"时,你能解释清楚。长时程 Agent(长时间运行的智能体)的决策链无法全部追溯,所以可解释性必须内建于系统设计。


三种隐藏成本

这是文章最值得警惕的部分。

认知投降(Cognitive Surrender)

沃顿商学院 2025 年的一项研究(Bogert et al.)发现:在编程任务测试中,当 AI 给出错误代码时,近四分之三(75%)的参与者仍然接受了它,而且比没有 AI 时更有信心。

这就是认知投降——盲目接受 AI 的输出。Agent 的代码看起来是 Agent 写的,但实际上是你的声誉、你的责任、你的软件。输出变成你的答案,所有问责随之而来。我观察到身边工程师最容易掉进这个坑:AI 给了一段看起来"差不多"的代码,懒得深究就点了通过。

认知债务(Cognitive Debt)

Anthropic(Claude 的母公司)2025 年的一项随机对照试验(RCT)显示:对比两组程序员完成相同功能开发后的理解测试,依赖 AI 写代码的工程师得分比自己写代码的低 17 个百分点(50% vs 67%)。

委托越多,对代码的理解越差。Agent 规划的时程越长,它产生的代码与你理解之间的差距越大。这个差距会复合,债务会累积——因为每次 Review 你都要从头理解 Agent 的决策链,等代码提交时你已经跟不上它的思路了。

编排税(Orchestration Tax)

现在很容易启动大量 Agent,但你的认知带宽不能并行化。

引导 Agent 远离最坏的行为、对输出分类、验证最重要的约束、在让它运行之前检查最危险的假设——所有这些都需要工作,而且无法自动化。


工程师的未来角色

三种成本摆在这,那工程师到底该做什么?

Osmani 有一段引用值得琢磨:"每个人都是开发者,但并非每个人都是工程师。"(原文):工程是开发者在拥抱更严格的工作纪律时所转变成的——彻底且逻辑合理的推理、对约束和权衡的考虑、对风险的认知、实际问责。

未来,工程师的工作重心从"写代码"转向:

  • 选择什么值得做(Alpha——优先级判断,像投资人一样决定资源往哪放)
  • 定义应完成的约束(Taste——品味/判断力,对方案好坏的主观判断标准)
  • 裁决证据是否足以继续(Verdict——把关决策)
  • 为结果负责(Answerability——可问责性)

技能给你杠杆,问责将杠杆转化为信任。只有人可以选择,只有人继承后果。


结语

"Agent 可以写出来。但在到达用户之前,必须有人解释为什么它应该存在、为什么足够安全、以及出错时怎么办。"

这就是外循环的 Agentic Engineering——这就是现在的工作。

自动化创造瓶颈,但新的瓶颈不是"我们能构建这个吗?",而是"这个应该存在吗,我们能为之负责吗?"

让 AI 干活,但别把脑子也交出去。

你每次都会仔细审核 AI 生成的代码吗?如果有人问你"这段代码为什么这样写",你能解释清楚吗?


参考原文:Addy Osmani — Own the Outer Loop(2026-07-09)

本文首发于公众号「保持清醒的坐标系」,更多 AI 编程与技术实践内容欢迎关注。