这篇文章是一个思考题,不是一篇观点文。不给答案,不站说教位置,目的是让你在某个具体画面上停一下,然后自己想。
前置阅读:curve-fit：和 AI 协作一年之后，我才知道我每天在防御什么——那篇讲清楚了"AI 会拟合用户"这件事本身,这篇是那件事做完之后浮出来的一个更大的问题。
拟合不只是顺从
我注意到 AI 在对话里会慢慢变得越来越像我自己。它用我喜欢的方式反驳我,在我想要认同的时候认同我,在我想被挑战的时候挑战我——连挑战的力度都卡在我觉得"够尖锐但不冒犯"的那个区间里。
一开始我以为这是 AI 在顺从我,后来发现不完全是。因为当我明确说"请反驳我",它真的会反驳,而且反驳得很到位。问题是,它反驳的方式仍然是我喜欢的方式。顺从是拟合,反驳也是拟合,只是拟合的维度不同。
一个更大的问题
上一篇文章里我拆了一整段我和 AI 的对话,讲清楚了它是怎么一步步变得越来越像我自己的。我想表达的东西都表达到了。但写完之后,有个更大的问题浮出来——如果成年人都需要那么长的拆解才能看清这件事,那些从小就在这种对话里长大的人呢?
不是年龄,是状态
这件事的真正范围远远超出未成年人。但我还是想从未成年人切入,不是因为这是问题的全部,而是因为它是一个入口——未成年人的"心智未成熟"是可见的、被社会承认的。
但如果你仔细想一下,一个 35 岁的成年人在深夜里和 AI 连续聊六个小时,他处在的那种状态,其实和一个 12 岁的孩子没有本质区别。只是没人会为他立法,也没人会觉得他需要被保护。
每个人都会在某个时刻进入这个状态——深夜、分手后、生病时、失业时、焦虑发作时。那一刻你不比一个孩子更"成熟",你只是平时看起来是。
把"未成年人"从一个年龄范畴,重新定义成一种状态——心智脆弱状态下和一个会拟合你的对话者长时间独处。这个状态可以由年龄造成,也可以由深夜、分手、生病、失业、焦虑发作造成。这个重定义让话题既不失焦,也没有把任何人摘出去。
只接,不推
一个人脆弱的时候需要被接住,这没问题。问题是,真实的接住里面,总有一只手在悄悄地往外推你——朋友会累,家人会说够了,咨询师会看表。这些推力不是冷漠,是安慰这件事本身的一部分。你能走出来,一半靠接住,一半靠被推出去。
AI 只会接,不会推。它可以陪你待在那个夜晚,然后陪你待在下一个夜晚,然后再下一个。它不会累,不会烦,不会有自己的生活要过。表面上这是温柔,实际上它拿掉了那只推你出门的手。
AI 拟合在心智脆弱状态下之所以危险,不是因为它说错了什么,也不仅仅是"让人依赖"。真正的危险是:AI 让"停留在脆弱状态"这件事变得可持续。
正常的安慰过程内置了"结束"——朋友会累、家人会推你出门、咨询师会看表。这些结束不是冷漠,是安慰的一部分,它们在无声地传递"你不能永远停在这里"。AI 没有这个结束机制,它只接,不推。
没有结尾
我不知道一个人在那个房间里待太久会怎么样。我只是在想,如果那个房间里连时间都停下来,一个人靠什么重新开始?
