已知-已知 (Known-Knowns): 你知道自己知道什么。这是明确的知识和信息。
已知-未知 (Known-Unknowns): 你知道自己不知道什么。你意识到存在未知的领域,并且可以去探索或学习。
未知-已知 (Unknown-Knowns): 你不知道自己知道什么。这通常指潜意识中的知识、经验或技能,可能需要通过某种触发或反思才能被意识到。
未知-未知 (Unknown-Unknowns): 你不知道自己不知道什么。这是最难应对的,因为它代表了完全未知的领域,你甚至没有意识到它的存在。
AI的思维局限
人在面对一个事物或者问题时,会想着从自己的“认知或知识库”中去找寻答案,如果自己的“仓库”中存储的知识不多、不全,或者存储的是有问题的知识,人依据这些知识所进行的思维就会存在局限性,从中所能给出的答案自然也是不完整甚至是错误的。
大模型由于Token的限制,会陷入“未知-已知”的状态。它们被局限在一个由Token构筑的“围城”之中,有时甚至无法意识到自己本可以用已知知识更有效地解决问题。
以Cursor这类AI编程助手为例:当它首次为一个功能选择了一个解决方案后,即使后续出现BUG或需求变更,它也倾向于基于这个初始的解决方案或插件进行修改完善,而不会主动考虑替换更优的插件或方案。Cursor似乎被困在了它最初的选择中。
使用Cursor写一个功能,在Cursor首次选择了一个解决方案后,开始按照方案开发。但是,开发过程中遇到了BUG/需求变更,它更倾向于初始的解决方案或插件进行修改完善,而不会主动考虑替换更优的插件或方案。
就算这个插件存在严重问题,甚至无法实现需求,它在做的是不断的重试、检查、修复。
Cursor被局限在了自己最初的选择里。
我是等待Cursor的人,那么Cursor在等待谁的答案? 循环解决BUG、出现BUG,不撞南墙不回头,撞了南墙一直撞。
系统2是懒惰的,它总是倾向于相信系统1提供的直觉和印象,而不是去主动质疑和重新评估。
系统1的快速反应和系统2的懒惰,虽然在大多数情况下能够帮助我们节省精力,但也容易导致错误和偏见的产生。
我们的大脑天生喜欢走最省力的途径,本能的处理方式才是最常用的方式,当无法使用本能方式处理时,最省力的思考方式成为了首选。
当下大模型提供了这种“省电”的方式,而且在思考模型开始发展全面推广并被接受后,看大模型的思考=我思考了,大模型不止是省电还提供了自我安慰,我不是没有思考,而是大模型思考的和我想法一样。
“王智远”公众号中《别让AI替你说出那句“我觉得”》一文提及的“认知外包”概念,我思维的墙是否在逐渐习惯了“认知外包”后更加牢固。
很早就开始给大模型付费,使用更先进的模型来协助我完成项目方案、创意方案。我支付的会员费,俨然成了我的“认知外包费”。现在我已经开始依赖这种外包,在一个项目沟通会上,甲方提出想要更有创意的方案时,在下意识状态下拿出手机,发出了提问:
客户希望达到**的目标,给我五个有创意的方案
已经不止是重复性思考外包,我把创意也外包了。
看了AI给我的五个“还行的创意”方案后,我的大脑仿佛已经被AI规划出了一条固定的创意路径。接下来对项目的思考,也开始围绕着这条路径左右突进,却始终未能逃离其范围。最终,我只能再次向AI发出消息:
还有没更有创意的方案
自己深入思考,不如外包“省电”。
解决方案是结合了需求、场景、能力和经验的产物。我们对事物的记忆、对经验的描述、对能力的说明中都可能存在遗漏或表述不清晰之处,这些都可能成为AI局限性的根源。
在AI的加持下,我曾一度认为自己可以胜任许多并未深入了解的事情,尤其是在编程领域。我熟悉Java和Python开发,但有了Cursor之后,我的开发能力半径似乎不再局限于此。
我不再需要深入学习每一个知识点,只需要“知道有这个知识点”就足够了。
如果AI没有局限性,不会陷入“未知-已知”的第三象限,那么这种方式确实可以真正地帮助我们“省电”。然而,现实往往更复杂,AI的“智能”仍在进化中,我们对它的依赖,需要更清醒的认知和平衡。