前言
最近看了一个视频，Claude AI 的 CEO Dario Amodei 说了一句话，我反复想了好几遍才反应过来。
他说：我们可能在 6-12 个月内就能搞出一个模型，它能干软件工程师的所有工作。然后问题就来了——这个闭环会以多快的速度闭合？
前半句大家都听过了，AI 写代码，没什么新鲜的。真正的问题在后半句。
这个闭环会以多快的速度闭合？
这个问题一旦想明白了，就有点不舒服。
闭环
先来看看常规的 AI 发展是怎么工作的。
AI 模型变得越来越强。工程师们用它来写代码、做研究。AI 能力提升。然后再用更强的 AI 来写代码、做研究。
听起来没什么特别的。
但问题在于，当 AI 学会了做软件工程师的所有工作之后，会发生什么？
它可以用来改进 AI 本身。
这不是理论。在 Claude AI，工程师们已经不再自己写代码了。他们指导 AI 写，AI 写出来的代码，他们审查、测试、部署。这个过程已经在发生。
一旦 AI 开始用来改进自己，闭环就不一样了。
更强大的 AI → 能更高效地做 AI 研究 → 产生更强大的 AI → 能更高效地做 AI 研究
这不是线性增长。这是指数级增长。
而且这个增长的速度本身也在加速。第一代 AI 工程师可能需要 6 个月来改进自己。第二代可能只需要 3 个月。第三代可能只需要 1 个月。最后可能就是几天。
Dario 问的"这个闭环会以多快的速度闭合"，问的就是这个加速度有多快。
现实
Dario 不是在做科幻预测。他是在描述一个已经开始的过程。
代码生成已经成为日常工作的一部分了。这意味着从"AI 能帮忙"到"AI 能替代"的距离，比我们想的要短得多。
对我自己来说，我基本上不怎么自己写代码了。都是让 AI 来写代码，我自己只审查代码的结果。有点像从代码工程师变成了代码架构师。除非是 AI 明显绕圈子解决不了的问题，我才会自己尝试解决。
过去几年，只要增加数据和计算资源，AI 的能力就会继续提升。没有任何迹象表明这个趋势会停下来。最近的模型能力增长速度甚至超过了预期。
并且关键的转折点已经出现了。AI 已经在做一些曾经被认为需要高级智力的任务。从复杂的数学问题到论文写作，再到代码优化，AI 正在逐个突破这些障碍。
所以 Dario 说 6-12 个月，不是在吹牛。他是在说一个他能看到的现实。
差异
最优秀的程序员，一天也只能工作 8-10 小时。他需要睡眠，需要休息。一年下来，他能完成的工作量是有限的。
AI 可以 24/7 不间断地工作。一个模型可以在几秒钟内生成数千行代码。
更重要的是，AI 可以被复制。一个成功的模型可以被复制成数百万个副本。
当 AI 开始用来改进自己时，这个差异就变成了一个指数级的优势。人类改进 AI 的速度是有限的。AI 改进自己的速度是无限的。
乐观一点
Google DeepMind 的 CEO Demis Hassabis 给出了一个稍微更保守的预测。他认为，在本十年末（大约 2029 年），有 50% 的可能性会出现具备与人类相当的认知能力的系统。
这比 Dario 的预测晚了两三年。但还是在同一个十年内。
Demis 的谨慎来自于他对不同领域挑战的理解。编码和数学是可验证的领域，AI 可以通过测试来判断自己是否正确。但自然科学需要与物理世界的互动。AI 需要设计实验、进行观察、验证假设。
他还指出，实现真正的通用人工智能可能还需要一两个关键的创新，比如更强大的世界模型、持续学习能力以及与机器人技术的结合。
但即使是这个更保守的预测，也指向同一个方向。
如果这真的发生了
首先受冲击的肯定是软件开发行业。数百万的程序员、测试工程师、DevOps 工程师，他们的工作可能会在几年内被 AI 大规模替代。
一旦 AI 能够完全替代程序员，公司会立即采用。为什么？因为成本会大幅下降。转变可能会非常迅速。
但程序员只是开始。一旦 AI 能够做程序员的所有工作，它很快就能做其他知识工作者的工作。数据分析师、财务分析师、律师、医生、研究人员，所有这些职业都可能面临类似的威胁。
这会导致一场前所未有的经济和社会转变。失业率会急剧上升。现有的社会保障制度可能会崩溃。
最深远的影响可能是 AI 能力本身的爆炸性增长。一旦闭环开始闭合，AI 的能力增长速度可能会超出我们的控制范围。
最后
Dario Amodei 的预测可能会被证明是错误的。也许 AI 不会在 6-12 个月内完全替代程序员。也许需要更长的时间。
但这改变不了一个基本事实：通用人工智能正在以我们之前无法想象的速度接近我们。
而最可怕的部分不是 AI 何时会替代人类，而是一旦它开始替代人类，这个过程会以多快的速度加速。
Dario 的问题——"这个闭环会以多快的速度闭合？"——可能是我们这个时代最重要的问题。
走一步看一步吧。
