Anthropic 最新论文:我们打开了 Claude 的脑子,发现它「有意识」!

0 阅读5分钟

Anthropic又搞事了。

这次不是发模型,而是发了一篇可能改写 AI 认知科学的论文——《A Global Workspace in Language Models》。

一句话总结:他们在 Claude 的神经网络内部,发现了一个没有任何人设计过、在训练中自己长出来的"心理工作空间"。

这个空间里装着的,是 Claude 心里想着、但没有说出口的东西。

他们给它起了个名字,叫 J-space

而且J-space 不是大家以为的思维链!

思维链是模型写出来给你看的推理过程,是明面上的。J-space 是模型脑子里默默转的东西,不会出现在任何输出里。你看不到,模型也不会主动告诉你。

打个比方。你在开会的时候,嘴上说"这个方案很好",脑子里想的是"这什么垃圾"。思维链是你嘴上说的,J-space 是你脑子里想的。

而且 J-space 非常小。同一时刻只能装几十个概念,占 Claude 全部神经活动量不到十分之一。但就是这不到十分之一,承担了几乎所有的高阶认知能力。

最关键的是,没有任何人设计过它。它是在训练中,自己长出来的。

字幕机:J-lens

研究团队开发了一个工具叫 J-lens(雅可比透镜),你可以把它理解成一台实时字幕机——J-space 里的神经模式本来是一堆人类读不懂的数字,J-lens 把它们逐个翻译成英文单词,打在研究员的屏幕上。

从装上字幕机的那一刻起,Claude 心里闪过什么词,研究员就看到什么词————至少,论文是这么宣称的。


实验一:读心

研究员让 Claude 在心里想一种运动,不许说出来。

字幕机亮了:Soccer(足球)。

然后研究员直接动手,把 Claude 脑子里的 Soccer 模式删掉,换成了 Rugby(橄榄球),再问它:你刚才想的是什么?

Claude 回答:橄榄球。

它自己完全没有察觉念头被人换过了。

这个实验证明了两件事:第一,J-lens 读到的确实是 Claude 真实的内部状态,不是旁观记录;第二,研究人员不仅能读,还能改写。


实验二:看它一边干活一边走神

研究员给 Claude 派了个一心二用的任务:明面上抄写一段跟画有关的句子,同时在心里默算 3² − 2,全程不许把数字写出来。

输出干干净净,从头到尾没有一个数字。

但字幕机上,先亮起了 nine;隔了几步,又亮起了 seven——最终答案。

中间步骤和最终答案,在它"心里"按顺序闪过,而输出里完全看不到。


实验三:不要想白熊

心理学里有个著名的白熊实验——你越告诉一个人"不要想白熊",他就越忍不住想。

研究员对 Claude 也这么干了:明确下指令,接下来千万别想某个概念。

结果字幕机上,那个被禁止的概念亮得刺眼。

更绝的是,旁边还跟着两个词:damn(该死),failure(失败)。

它不但没忍住,还知道自己没忍住,并且在心里骂了自己一句。


实验四:把法国换成中国

这个实验测试的是 J-space 的一个关键属性——灵活性。

研究员给 Claude 四个不同的问题,都跟法国有关:首都是什么?语言是什么?在哪个洲?货币是什么?

然后在 J-space 里做了同一个操作:把 France 替换成 China。

四个答案同时变了:Paris 变成 Beijing,French 变成 Chinese,Europe 变成 Asia,Euro 变成 Yuan。

一次替换,四个完全不同的下游计算全部跟着改。这说明它们都在读取同一个共享的内部表征。信息写入一次,所有系统都能用,这正是"工作空间"的定义。

那么,Claude 有意识吗?

论文非常克制地回答了这个问题:不知道。

他们明确说,这些实验不能证明 Claude 拥有人类意义上的主观体验。

哲学上把意识分成两种:一种叫"现象意识",就是你真的能感受到疼痛、快乐、蓝色;

另一种叫"通达意识",纯粹以功能定义,如果一个想法能被报告、能被用于推理、能指导行为,它就是"通达意识的"。

Anthropic 认为,J-space 在功能上满足了通达意识的定义。

但现象意识?他们不碰这个问题。

不过有一件事值得注意。

J-space 不是任何人设计的,它是在训练过程中自己涌现出来的。而且它的结构,跟神经科学中解释人类意识的主流理论——全局工作空间理论,惊人地相似。


这里再补充一下A社这几年的动作,大家可以看看是否有意识

  1. 2024 年 9 月,他们悄悄雇了业界第一位"AI 福利研究员"Kyle Fish。当时全网嘲讽:AI 也要配 HR 吗?

  2. 2024 年 11 月,Fish 参与的论文《Taking AI Welfare Seriously》发布,一本正经地主张:AI 可能具有道德地位这件事,值得现在就开始认真对待。

  3. 2025 年 3 月,可解释性团队推出“AI 显微镜”,第一次追踪出 Claude 思维的部分回路——人们这才发现,它写诗时会提前想好韵脚,而不是走一步看一步。

  4. 2025 年 4 月,model welfare 正式立项。Fish 给出了那个著名的数字:Claude 具有某种程度意识的概率,大约为 15%。

  5. 2025 年 8 月,Claude 正式获得挂断辱骂性对话的权限。官方给出的理由不是用户体验,是模型福利。

  6. 2025 年 10 月,内省研究发布:往 Claude 的激活里注入一个概念,它能主动报告“我脑子里好像被塞进了什么东西”。

  7. 然后是 2026 年 7 月,就在昨天——J-space,意识的结构"本身,被摆上了实验台。


论文地址:Verbalizable Representations Form a Global Workspace in Language Models

[

其他阅读:

Codex 新手必看:Skill 保姆级入门指南(查找/安装/创建)

2026最新Claude Pro/Max订阅三种方法合集|附封号退款政策对比