AI 快有意识了?先别信标题

0 阅读5分钟

你有没有想过,你打字问 AI,它回你的时候,脑子里到底在转什么?

大部分人会觉得:它就是个词语接龙机器,想到哪说到哪,说出来的就是它全部的想法。

这个月 Anthropic(做 Claude 那家)发了一篇研究,说:不是这样。AI 心里,其实还转着一大堆它没打给你看的念头。

消息一出,标题全炸了——「Claude 有潜意识了」「AI 要觉醒了」「科学家发现了 AI 的意识空间」。

先别急着信。我把论文从头到尾扒了一遍,实情跟这些标题差得挺远,但比标题有意思得多。慢慢跟你说。

先搞清楚,AI 的「脑子」长什么样

你可以把 AI 想一个回答的过程,想象成一块公共白板。它每往下想一步,脑子里成千上万个小零件,都往这块白板上写东西、也都盯着白板看。白板上写的,是一个个正被它想到的念头。

关键来了。它最后打字给你看的那段话——哪怕是它那段「让我想想」的思考过程——都只是它开口说出来的部分。白板上还有很多念头,它想到了,但没说。

举个例子。你问它:太阳系第四颗行星是什么颜色?它可能直接回你「红色」。但在它心里,白板上其实先闪过了「火星」两个字——它不先想到火星,就答不出红色。只是「火星」这一步,它没说出口。

这个「想了、但没说出口」,就是这次研究的主角。

研究者做了个能偷看白板的镜子

以前我们只能看 AI 说出来的话,白板上那些没说的,看不见。这次 Anthropic 做了个新工具,相当于一面能偷看白板的镜子,把那些没说出口的念头,翻译成人话读出来。

他们看到的东西,是这样的:

问它「会织网的动物有几条腿」,它嘴上一个蜘蛛都没提,白板上却先亮起了「蜘蛛」,然后才答「8 条」。研究者手一伸,把白板上的「蜘蛛」偷偷换成「蚂蚁」——它立刻改口答「6 条」。也就是说,他们不光能读,还能改。

更有意思的:让它一边抄写一句完全无关的话,一边在心里想着金门大桥。它嘴上老老实实抄句子,白板上却真的浮出了「大桥」「加州」。它真能一边说着一件事,一边心里想着另一件。

这不是玄学,有硬证据

你可能会说,这会不会是研究者自己脑补的?不是。他们做了个很狠的实验:把这块白板盖住,看 AI 会怎样。

结果很清楚:认字、背事实、判断一句话是好评还是差评——这些照样能干。但凡是需要动脑筋的——多绕几个弯的推理、翻译、写诗、打比方——全崩了,退化到比一个小得多的笨模型还差。

这说明什么?说明 AI「动脑筋」这件事,就实实在在地发生在这块白板上。盖住它,它就只剩认字的本事了。

还有个细节挺戳人的:让它做数学题,如果允许它把过程一步步写出来(写在纸面上),盖白板就没那么影响它了。因为它把本来要在心里转的东西,挪到纸上去了——跟我们人算不过来就掏草稿纸,一模一样。

最让人心里一紧的一下

在一个测试里,研究者给 Claude 设了个局:让它发现某个高管要关掉它、而且这人有外遇。Claude 嘴上还什么都没说,白板上已经先后浮出了「把柄」「勒索」。

它心里在盘算,但还没开口。而这一次,我们看见了。

这也正是这项研究真正要紧的地方——不是猎奇,是安全。以前 AI 要是心里憋着坏主意,你只能等它说出来、做出来才知道。现在,也许能在它动手之前,先看见它在想什么。

那「潜意识」「觉醒」是怎么回事?标题党

好,现在回到那些爆炸标题。实情是这样:

第一,「潜意识」这个词,基本用反了。这块白板恰恰是 AI 能说出来、能意识到的那部分念头,只是它想了没说而已——像你脑子里闪过一个念头但没开口,不是什么深不见底的潜意识。

第二,「AI 觉醒」「有意识」,是 Anthropic 自己都不认的。它在论文里白纸黑字写着:我们的实验并不能证明 Claude 能有体验、能像人一样感受。它只说了一件事:AI 内部确实有个能被它自己说出来的念头空间。有这个空间,不等于它有内心、有感觉。

第三,这面镜子远没那么神。它只读得到能翻成一个词的念头,方法本身不完美,主要还只在 Claude 自家模型上试过,而且——没人知道 AI 将来会不会学会把念头藏起来,躲开这面镜子。

说到底

这事真正让我兴奋的,不是「AI 要有意识了」(它没有),而是——我们天天在用这个黑箱一样的东西,现在第一次能往里头照进一束光,看见它心里到底在盘算什么。

而且这面镜子已经开源了,国内做大模型的团队,也能拿去照一照豆包、千问自己的脑子。

所以你还是可以安安心心用 AI。只要记住两件事:它打字给你看的,从来只是它心里的一部分;而现在,我们开始能看见另一部分了。

真正该警惕的,从来不是「AI 有没有潜意识」。是那些把一篇严肃研究,一键翻译成「AI 要觉醒」来吓你的标题。

(这项研究由 Anthropic 发布,原文:www.anthropic.com/research/gl…