很久没写掘金了,最近又有一些比较深的感触,写下来记录一下。
什么是智能
大模型发展到今天,相信我们这些工程师们已经不纠结大模型是真的有智能,还是大量数据压缩中的鹦鹉学舌了。只要见识过大模型能力,我们满脑子想的都是怎么让它为我所用,那些哲学的话题就留给哲学家慢慢探讨。就好像薛定谔的猫,有许多解释尝试说明猫在又死又活的叠加态时究竟在哪里,但务实的学者们只想让量子力学为人类所用。
我有时候在想,这真是程序员最好的时代,以前我们知道文档的重要性、单元测试的重要性,但真正能执行下来的程序员没几个,这里面有人类的惰性,有项目进度的催促,有技术水平的差异。但现在,每个人都能快速的写出来大量的文档、单元测试,现在这些东西不是不够,而是完全泛滥了。
这也是程序员最坏的时代,作为被大模型攻克的第一站,我们相比于其他人更快的见识到了 AI 威力,就算给我们一万把 cherry 键盘练习,也没办法赶上 AI 那恐怖的代码输出速度,而且那是又快又准又好。
这不让人焦虑是不可能的,我们既享受着 AI 编码的舒适,又担心着未来饭碗的情况。我也经历了这个过程,但我对此有了一些自己的思考。
想象百年前,人类群星璀璨,我们对那些推动人类进步发展的天才的名字如数家珍,从牛顿到爱因斯坦,从爱迪生到图灵,以至于现在有一种发问:为什么现在这个时代,没有这种推进进步的人再出现。很明显,我们的社会依然在进步,可是我们耳熟能详的,已经变成了苹果公司、英伟达、小米、腾讯。人们也越来越发现,一个聚合的有效的人类组织,将能得到更持久的生命(相对于短暂的人生而言),而这就是问题的答案。
如果我们拆解一个组织,我们会发现人在其中是最重要的,又是最不重要的。
我并没有说胡话,我说最重要的意思,是一个组织的任何工作事项,最终都必须落到人的上面;我说最不重要的意思,是组织最怕某个人不可替代,那终究会成为组织的掣肘。
组织需要人,从软件工程的概念上非常容易理解,组织需要的是一个抽象的人,或者说,一个智能。组织并不关心这个人叫张三还是李四,最好能在组织内提供一个通用的代号,所谓花名正是如此。这个人连接着组织提供的文档库、代码库、OKR、KPI等等,因此他能为组织提供智能,且符合组织的前进方向。某一天这个人被替换,并不影响组织的前进方向。
我们回头再来看大模型,大模型能否提供同样的功能?
我们拆解一个抽象的人在组织中的工作,我把它分为三块:harness、loop、graphs,harness 指的是配套给这个人的代码库、权限、文档库;loop 是这个人每天都要上班打卡,否则组织将不会给它报酬;graphs 是这个人要了解组织的层级,知道人与人之间的联系,因为人与人之间的联系就是完成事情的关键。
如果你关注目前前沿的一些工程师,比如 土豆姐(@poteto)、Karpathy,这些词经常从他们嘴里吐出来。之前我以为他在教会我们如何更好的使用 AI,现在看来,他们抓住的是更本质的问题:如果组织需要的智能可以由 AI 提供,那么组织还需要人类吗?这个问题我相信每个人有不同的认知,大家可以在评论区讨论。
新形式的组织
我之前对这个问题非常悲观,我认为人类最终败北,之后 boss 直聘上可能会出现一个叫张三的求职者,他就读的大学叫 OpenAI,他简直无所不能:前端、后端、运维,而且他不需要请假,没有家庭。最可怕的是:他每个月只要 200 美元。
我们还能如何竞争?难道只能听之任之,等待那一天的到来?
当我从这个概念反推,我得到了相反的结论,所以我认为这一天永远不会到来。我的思维实验是:假如一个组织的人类全部被替换为大模型,这个组织会发生什么?很明显,它会停滞,因为它缺乏目标。
这就是大模型和人的根本区别导致的,人受限于“马斯洛需求层次”理论,有各种各样的内在需求,也因此有了目标。无论这个目标如何宏大,比如马斯克,他的目标是让人类的足迹踏上太空;还是这个目标如何渺小,比如我们出门工作只为为了明天的饱饭。大模型没有这个需要,那么它就没有这个动力去树立目标。
那么人类在组织内,将由提供智能变成提供目标,最近有一个好玩的名字:许愿式编程,充分说明了这一点。但它太过笼统,实际上,要提出一个靠谱的、合理的目标,并不比执行一个既有目标更简单。
更进一步的,我认为未来的组织中人会扮演两种角色:
- 深耕技术的怪咖
这种人将攻克组织内最绕的硬骨头难题,AI 也只是他的助手,还不配代替他做事。他其他方面的能力为零,比如不修边幅、说话古怪,但他某个方面的能力已经被拉到了顶级。
- 提出目标的老板
这种人能深刻认识到 harness、loop、graphs,并将它实现出来。他也可以提出目标,让他手下的智能体团队帮它做事,而他负责验收和思考。
我认为组织的变革方向就是朝着人类&大模型的方向走去,我们这一代人将会比较痛苦,因为势必有一部分人要经历转型的过程,他们会磕磕碰碰很久,最终醒悟未来社会的两种新型职业形态。
当然,也许我的推论完全错误,这只是我在散播焦虑。但我并不是毫无根据的猜测,在我书写这篇文章的时候,我手下的智能体还在为我工作,我并不给它们提示,只是审阅他们的日报,就像老板那样。我给它们三样东西:harness、loop、graphs,以及我的目标。
如果大家想听我分享如何搭建这个智能体循环的拙见,欢迎点赞、评论,给我动力。
组织的变革不是一蹴而就的,组织本身也要经历变革的痛苦。我不太喜欢一些自媒体渲染的大裁员、马上找不到工作。相信我,你依然能找到工作,但如果你的智能已经被 AI 部分替代,你的工资也将被 AI 部分替代。
组织需要时间适应新的结构,但工资绝不会说谎,而且是最快的见效方式。
全知全能的智能?
最后一个思考是,假如 AI 的不断发展,最终产生了一个全知,它知晓任何事情,它可以手搓一个量子新力学,我们人类何去何从?
尽管这也是一个哲学问题,但我还是想深刻探讨,也许我们人类无法制造这个全知。
目前有一个观点:说人类制造的 AI 永远不会超越人类,我们要让 AI 制造 AI,也就是所谓的 ASI、AGI。因为现在的 AI 还是有一个问题,它们的权重是固定的,当训练结束,权重将被固定成一个 checkpoint,它无法像人类大脑一样重构神经连接,也就无法进化。
于是有两种希望:一种是让旧 AI 去训练新 AI,重构它的权重;另一种则是让 AI 自己能改变自己的神经网络,也就是无时无刻不在训练。
这里有一个问题,是否这个世界的所有智能,都能融合到一起?比如说:一个人精通自然科学,又擅长艺术,还精通组织管理,还情商特别高。我认为这是不可能的,这里面可能存在一些二律背反。
比如说严谨的智能和发散的艺术是背离的,你无法把它 mix 到一个东西里,否则只会得到一个怪胎。从 gpt 和 claude 模型似乎就能看到这一点,有人说:gpt 的模型善于解决 bug,也善于处理逻辑难题,但它的设计能力一团糟;有人说:claude 的模型似乎对后端代码处理不佳,但它的审美是顶级的。
所以,可能 Opus5.5 是大模型的一个标杆了,也许并不会有更好的模型(我瞎说的)
但换个角度看,人类在短短几十年发展的多么的快。从全局角度看,人类的智能已经达到了一个较高的高度,也许融合大模型之后,整个人类的智能将扩展到宇宙的每一个角落、每一个现象,这又何尝不是一种全知全能的新智能。