没有人知道AI泡沫会不会破裂，更没有人知道它会在哪一年出现拐点。
但历史上任何一次技术革命，都遵循着同一条规律：真正决定产业高度的，从来不是资本有多乐观，而是支撑增长的底层变量是否还能持续增长。
因此，与其讨论AI会不会无限进化，不如先回答一个更基础的问题。 今天的大模型，究竟依靠什么持续变强？
如果这些基础条件开始同时放缓，那么AI产业第一次真正的系统性考验，就只是时间问题。
一、大模型为什么能快速进化？
过去十年，大模型能力快速提升，主要依赖四个变量共同增长。
1. 高质量训练数据持续增加。 2. 计算能力持续提升。 3. 模型架构不断优化。 4. 人类持续提供反馈，对模型进行校正。
四个变量相互促进，推动模型能力不断提升。 然而，从2025年至2026年开始，这四个变量正在发生变化。 算力仍在增长，但成本越来越高。 模型架构仍在改进，但能力提升逐渐呈现边际递减。 真正变化最大的，是训练数据与人类反馈。 越来越多的数据，不再来自人类，而开始来自AI自身。
二、全球头部厂商几乎都已进入AI辅助训练时代
目前，全球主要大模型公司都公开采用了不同形式的AI辅助训练。
OpenAI在《InstructGPT》中提出RLHF框架，随后逐步引入AI辅助评测、自动红队、模型蒸馏等技术，越来越多训练流程由模型参与完成，而不是完全依赖人工。
Anthropic在2022年发表《Constitutional AI》，首次系统提出RLAIF，让模型依据预设原则生成反馈，再利用AI反馈完成对齐训练，大幅降低人工标注需求。
Google DeepMind近年来持续公开自动评测、安全测试、自我改进等研究，在Gemini系列训练过程中，大量评估、数据筛选和安全验证开始由AI参与完成。
Meta、DeepSeek等公司也公开采用DPO、GRPO、自生成数据增强、自动评测等方案，提高训练效率并降低人工成本。
这些路线并不完全相同。 但方向高度一致。 AI开始越来越多地参与训练AI。
这本身并不是问题。 真正的问题在于，整个训练系统开始逐渐形成闭环。
三、为什么训练闭环值得警惕？
AI参与训练，本身能够显著降低成本，提高效率。 对于工程而言，这是进步。 但对于长期演化而言，却引出了另一个问题。
如果越来越多训练数据来自AI生成，越来越多评分来自AI完成，越来越多安全测试由AI执行，那么下一代模型学习的对象，究竟还是人类，还是上一代AI？
这并非猜想。 2024年，《Nature》发表关于Model Collapse（模型坍缩）的重要研究。 研究证明，当模型持续利用上一代模型生成的数据进行递归训练时，原始数据分布中的长尾信息会逐渐消失。 少见但重要的信息开始减少。 输出逐渐趋同。 模型越来越擅长生成平均答案，却越来越难保留那些原本稀有但具有价值的信息。
研究同时指出，这种退化不是简单增加算力就能够解决的问题。 也就是说，AI学习AI，并不一定会越来越聪明。 在缺乏真实信息持续注入的情况下，它也可能越来越像自己。
四、厂商为什么仍然继续使用AI训练AI？
因为收益非常明显。
- 自动生成训练样本，可以降低数据成本。
- 自动评测，可以缩短训练周期。
- 自动红队，可以快速发现安全漏洞。
- 模型蒸馏，可以快速训练更小模型。
这些方法几乎已经成为行业标准。 与此同时，所有头部实验室也都在做另一件事情：
- 保留真实人类数据。
- 增加人工抽检。
- 引入检索增强。
- 建立Verifier验证系统。
- 持续接入真实世界反馈。
为什么？ 因为几乎所有研究机构都意识到，仅依靠AI自身循环，很难保证长期质量。 AI可以帮助扩大知识。 却不能单独验证知识。
因此，目前行业真正采用的是混合路线，而不是完全闭环。 这也恰恰说明，业内已经意识到了训练闭环带来的潜在风险。
五、真正稀缺的，不再是算力，而是真实世界
今天，人们普遍认为，未来限制AI发展的最大因素是GPU。 事实上，更值得关注的是另一种资源：真实世界。
AI能够生成文章、图片、代码、视频，甚至能够生成科研摘要。 这些内容正在快速进入互联网：
- 越来越多网站开始充满AI生成内容。
- 越来越多企业开始使用AI完成内容生产。
- 越来越多开发者开始使用AI编写代码。
AI生成内容正在以前所未有的速度增长。 与此同时，人类原创内容的增长速度却可能开始下降。 并不是因为人类不会创作。 而是因为AI创作更快、更便宜、更符合商业效率。
于是，一个新的数据生态开始形成： AI生成内容 → AI审核内容 → AI推荐内容 → AI总结内容 → 下一代AI继续学习这些内容。
如果这一趋势持续，互联网新增内容中AI生成数据占比将不断提高，而真正来自人类原创思考、真实实验和亲身经历的数据，占比则可能持续下降。
这里真正减少的，并不是数据总量。 而是真实世界作为训练锚点的重要性。
六、人类社会也开始形成另一种闭环
比训练闭环更深层的变化，正在发生在人类身上。
越来越多人开始把AI作为默认的信息入口： 不会写代码，问AI； 不会做方案，问AI； 不会学习，问AI； 不会搜索，也直接问AI。
AI正在从工具，逐渐变成认知入口。 过去，人类通过阅读不同来源建立自己的判断。 未来，越来越多人首先接触的，将是AI整理后的答案。 这意味着，人类获取知识的方式正在改变。
如果越来越多的人停止独立搜索、独立阅读、独立推导，而越来越依赖AI完成这些过程，那么社会新增知识的产生方式也将随之改变。
过去链路：人类创造知识 → 互联网传播知识 → AI学习知识 未来趋势链路：AI整理知识 → 人类学习AI → 互联网积累AI内容 → 下一代AI学习AI产出内容
至此，两条闭环开始靠近：
1. 一条发生在AI训练体系内部。 2. 另一条发生在人类社会本身。
七、AI不会主动压制创新，但统计学习天然偏向共识
这里需要区分一个容易被误解的问题。 目前没有直接证据证明，大模型会主动压制人类的新思想。 真正的问题来自统计学习本身。
今天所有主流大模型，本质都是建立在概率分布学习之上的生成模型。 模型更容易学习的是：
- 高频出现的信息。
- 大量重复验证的信息。
- 能够获得一致评价的信息。
而真正具有突破性的思想，在诞生初期通常都具有相反的特征：
- 出现次数极少。
- 缺乏社会共识。
- 甚至与主流观点相冲突。
历史上的许多重大突破，在刚提出时都曾被认为是不合理、错误甚至荒谬的观点。 对于统计模型而言，这类内容天然属于低频样本。
如果未来AI越来越多参与训练数据筛选、自动评测、奖励建模和内容推荐，那么整个系统更容易不断强化已有共识，而不是主动寻找那些尚未形成共识的新知识。
这不是AI具有主观意志。 而是统计学习的自然结果。
八、当原创思想越来越稀有，它可能逐渐被整个系统忽略
如果AI持续降低内容生产成本，大量普通内容都由AI完成，那么真正愿意长期进行原创研究、基础科学探索、独立思想推演的人，比例可能越来越低。
与此同时： AI生成内容不断增加； 互联网新增训练数据越来越多来自AI； 人类原创内容占整体数据中的比例不断下降。
那么一个新的现象可能出现： 真正的新思想，在整个互联网中的占比越来越小。 它们不是不存在。 而是越来越稀有。
对于依赖统计分布学习的模型来说，这些内容更容易表现为离群值。 如果缺乏现实世界实验、长期验证或足够的人类关注，它们未必能够顺利进入下一代模型的主流知识体系。
因此，未来最稀缺的资源，可能不再是GPU，不再是算力，而是真正的人类原创思想。 AI可以极大提高知识传播效率。 却不能保证原创思想持续增长。 一旦原创思想供给下降，整个知识体系更新速度也可能随之放缓。
九、资本真正关心的，从来不是参数，而是回报
很多人讨论AI泡沫，总喜欢关注模型参数、算力规模或融资金额。 但资本市场真正关心的问题始终只有一个：投入是否还能持续换来足够大的回报。
过去几年，大模型能力提升非常明显，因此资本愿意持续投入数百亿美元建设算力中心。 这是因为能力增长足以覆盖成本增长。
然而，如果未来几年出现以下趋势：
1. 算力继续增长，但成本增速快于能力增速； 2. 模型训练越来越依赖AI生成数据； 3. 高质量真实数据越来越难获得； 4. 模型之间能力差距逐渐缩小； 5. 企业越来越难从模型升级中获得明显收益；
那么资本市场最终面对的，就不是技术问题，而是投资回报问题。
历史上的每一次技术泡沫，都不是因为技术突然失效。 而是因为市场第一次意识到，增长开始明显放缓。 互联网如此，铁路如此，移动互联网如此，AI产业同样不会例外。
十、多个趋势可能在未来几年形成共振
1. AI辅助训练已经成为行业共识。 2. 模型递归训练存在模型坍缩风险，这已经得到公开研究验证。 3. AI生成内容正快速增加，真实人类原创内容占比可能持续下降。 4. 越来越多人把AI作为主要知识入口，而不是辅助工具。 5. 模型能力提升开始进入边际收益递减阶段，行业越来越重视效率而不是单纯扩大参数规模。
单独看，每一条趋势都不足以改变整个行业。 但它们共同指向同一个方向： AI训练越来越依赖AI； 人类越来越依赖AI； 真实世界输入的重要性相对下降； 整个社会的信息流、知识流和训练流开始逐渐形成闭环。
真正需要警惕的，并不是某一项技术失败。 而是这些趋势相互强化之后，整个系统开始越来越难产生新的认知增量。
十一、为什么我认为真正的拐点大概率出现在2030年前后？
首先得说一句，2030不是一个已经确定的答案。 它只是根据目前公开趋势推导出的一个高概率时间窗口。
原因在于，目前几乎所有关键变量都在向同一个方向演化：
- 头部模型的训练越来越自动化。
- AI生成内容占互联网比例持续提高。
- 企业越来越依赖AI降低内容生产成本。
- 普通用户越来越依赖AI获取知识。
- 模型能力提升速度开始趋于平缓。
- 资本投入仍在快速增加。
这些变化都不是一年完成的。 它们需要数轮模型迭代、数年的互联网内容累积，以及企业和社会行为的共同演化。
按照目前的发展速度，如果未来没有出现新的学习范式、突破性的模型架构，或能够持续提供大量高质量真实世界数据的新机制，那么多个长期趋势最有可能在2030年前后开始发生系统性交汇。
届时，真正受到考验的，不是某一家模型公司的能力，而是整个AI产业能否继续维持过去几年那种高速增长预期。
- 如果能够突破训练闭环，持续获得真实世界的新知识，AI仍可能继续快速发展。
- 如果不能，那么行业更可能进入一个高投入、低增益的新阶段。
届时，资本市场重新评估AI长期增长空间的概率将显著提高。 这也是我所说的「AI泡沫」可能面临考验的真正含义。
结语
今天，人们讨论AI，更多关注的是它还能替代多少职业，还能提升多少效率，还能创造多少财富。 这些当然重要。 但任何技术的发展，都不能脱离它赖以生存的知识来源。
AI能够学习人类已经创造的知识。 却不能保证人类持续创造新的知识。
如果未来越来越多的人把思考交给AI，而越来越多的AI又学习上一代AI，那么整个系统最终需要面对的，将不是算力极限，而是知识增量本身的极限。
因此，我并不预测2030年一定会发生什么。 我只是想提出一个问题： 当一个越来越依赖过去知识的系统，开始逐渐成为未来知识的主要生产者时，它还能否持续创造真正的未来？
也许，这才是AI时代最值得思考的问题。
