本文是2023年4月16日,赵向阳博士在第十五届“管理学在中国”会议上的主题演讲,会议地点在西交利物浦大学太仓校区。
演讲大纲
- GPT-4 对人类的影响
- 一个关于 GPT-4 的画像
- GPT-4 是 通用人工智能 吗?
- GPT 所带来的挑战和困惑
- 未来的就业市场
- 教育到底该怎么办?
- 多了解一些技术哲学
01 GPT-4 对人类的影响
感谢会议主办方的邀请。我演讲的题目是《GPT时代的生存困境与应对策略》。最近两个月时间以来,关于GPT的新闻和讨论铺天盖地。在前面的演讲中,徐飞教授对GPT已经做了很多基础性的知识铺垫,所以,我主要谈谈自己对于GPT的一些个人判断和看法。我把我的演讲看成是对徐飞教授演讲的对话。
自从去年11月底ChatGPT横空出世以来,首先引起了业内人士的高度关注。春节之后开始破圈,几乎人人必谈ChatGPT。人类从来没有像过去的两三个月里一样,经历了如此密集的AI新产品爆发。几乎每天、每周都有突破性的新产品发布,让大家眼花缭乱,应接不暇。
面对这样一个引起所有人关注的史诗级产品,我们大家之间几乎没有任何信息差,但是,这并不意味着我们每个人对这个事情的理解的深度是相同,至于角度嘛,很有可能大相径庭。在这个群情激奋的时刻,我们特别需要保持怀疑,保持距离,在对海量信息仔细过滤之后,形成一种客观冷静、平衡综合的判断。
我需要特别说明一下,当我谈到GPT的时候,有可能指代的是ChatGPT,也可能指代的是GPT-4,或者类GPT的其他大语言模型(LLM,Large Language Model),也有可能指代的就是人工智能AI(Artificial Intelligence)或者机器智能MI(Machine Intelligence)。这需要视具体的语境而言。
在过去的两百年里,中国曾经积贫积弱,所以,中国人产生了某种“科技崇拜症”(科学主义或者“拜科技教”),觉得所有新的科技发明,都是好的,都是革命性的,很难听到不同的声音。不同于中国人的众口一词,我发现,美国人对于GPT的评价比较复杂,更加多元化一些。有的评价非常积极,而有的评价比较消极。仔细分析每一种评价,你甚至会发现他们的立场都与自己的利益、学术观点、研究路线等有若隐若现的关系。
英伟达公司的CEO黄仁勋认为,“ChatGPT是人工智能的iPhone时刻”。言下之意,如同iPhone催生了大量的APP的商业应用一样,ChatGPT也会引发人工智能在各个行业层面和应用场景的创业创新。英伟达当然应该欢欣鼓舞,因为他们为OpenAI的大模型提供算力,卖出了很多GPU。
围绕ChatGPT另外一个最大的既得利益者当属微软公司。比尔·盖茨认为,“ChatGPT是平生所见两次最具有革命性技术之一”。他所说的另外一次最具有革命性技术是70年代出现、80年代开始商业化的GUI(Graphic User Interface,图形界面)。
GPT为什么这么重要呢?只有把GPT放在计算机发展的历史过程中,我们才能深刻理解它的是什么,以及它的价值。上个世纪的六七十年代的计算机,人类只能使用命令行的形式进行人机交互,在闪烁的提示符的后面,专业人士输入难懂难记的指令,计算机才能进行响应。到了八九十年代,当图形界面普及之后,普通人使用鼠标就可以进行人机交互,从而大大地推进了办公自动化。而自从有了ChatGPT之后,人们采用自然语言就可以进行人机交互,这是一个革命性的飞跃。
ChatGPT是自然语言处理(NLP, Natural Language Processing)领域最重大的一次突破,同时,GPT是一个大平台,是一种底层算法,在此基础之上,人们可以架构各种应用程序。ChatGPT只能接受文本输入和输出,而GPT-4最大的特点就是多模态系统(Multimodal System)。多模态意味着,机器除了可以理解自然语言之外,还可以理解语音、图片和视频。这就使得AI可以“睁开眼睛”可以看见、并且看懂这个世界,可以“张开”耳朵听见、并且听懂这个世界。或许在不久的未来,AI还可以拥有触觉和味觉。这使得机器智能越来越接近人类智能,或者在很多领域超越人类智能。
当然,并非所有AI领域的专业人士都把GPT当回事儿。计算机科学家,也是科普作家的吴军4月3日在得到直播间评论到,“ChatGPT不算新技术革命,带不来什么新机会”。他认为,ChatGPT所使用的基本技术早在他的博士导师1972年所写的论文中就已经出现,在1990年代自己做博士论文的时候已经广为人知。很早的时候自己就可以用类似GPT的技术写古诗,而且写的不错。
另外一个对GPT持保留意见的是著名的语言学家、哲学家、认知心理学家乔姆斯基。他认为“机器学习通过将有根本缺陷的语言和知识概念纳入我们的技术,而降低我们的科学水平并拉低我们的道德规范”。他在一篇题为“ChatGPT的虚假承诺”(2023年3月8日《纽约时报》)中说,我们所期待的“人工智能的曙光还没有出现,这与夸张的新闻标题和不明智的投资所预料的情况正好相反”。
面对马斯克等人签名呼吁暂停开发更为强大的人工智能至少6个月时间,深度学习领域的另外一个重量级学者,Meta公司人工智能首席科学家Yann LeCun(中文名杨立昆)则认为,“汽车都还没有发明,该怎么设计安全带呢?(2023年04月07日网络直播)。
仔细分析这些专家的立场和观点,我们发现,凡是那些在此次ChatGPT的浪潮中赚的盆满钵满的,对此都持赞赏和积极的态度,比如,英伟达、微软;而凡是在这次ChatGPT浪潮中没有赶上趟的公司和个人,则都持相对消极的评价。例如,马斯克、吴军、乔姆斯基、Yann LeCun等。中国有一句话说得好,“听话听音”。我建议大家在浏览社交媒体上铺天盖地的新闻和观点的时候,仔细思考一下不同人对同一件事情的不同态度背后的动机和利益。不要听风就是雨,人云亦云,被各种观点洗脑,从而迷失方向。
至于我自己是如何看待GPT呢?我的基本判断主要有两个,一个关乎如何看待GPT的重要性和影响力,另外一个关乎中美在人工智能领域的竞争。
从事件的重要性上来说,人类历史上唯一可以与之相提并论的只有1945年的原子弹爆炸。原子弹改变了战争的游戏规则,而GPT则改变了教育和工作的基本规则,并将深刻地影响到经济和社会生活的方方面面。
从人工智能领域的国际竞争来看,ChatGPT的横空出世,就相当于1957年的Sputnik斯普特尼克时刻。当年苏联抢先发射了人造卫星,美国举国震惊,立刻开始在科技和教育方面奋起直追。前几年,我们曾经乐观地认为中国与美国在人工智能领域的差距并不大(比如,论文发表数量和AI人才数量等),但是,现在看来,在AI领域,中国至少要比美国差五年左右的时间。我曾经被邀请体验国内某公司的类GPT产品,简单使用之后,我深切地意识到,在大语言模型方面,中国和美国差距巨大。新冠大流行三年时间,我们的国门关了起来,与世界脱节了,现在必须奋起直追呀。
图1:人工智能的发展历史和未来展望
“人们经常高估了短期变化,而低估了长期影响”(阿玛拉定律)。自从1956年约翰·麦卡锡正式提出“人工智能”这个概念以来,67年过去了,AI的发展曾经“三起两落”。每次当人类乐观地感觉到人工智能会取得巨大突破的时候,最后都在技术的成熟度和商业化方面遇到很大的阻碍,然后不了了之,资本和民众的关注度快速退潮。但是,这次ChatGPT的横空出世非常不同于以往,GPT现在已经被当做生产力提升的工具整合进了微软的Copilot或者其他软件之中,比如绘图和动画制作软件Stable diffusion, Midjourney等,极大地提升了工作效率。甚至在GPT的基础之上,出现了可以根据人类的目的(而非清晰具体明确的目标),自动连续地完成工作任务的AutoGPT。只要给AI提出一个总体的目标,它自己会分解任务并执行,同时寻求人类的反馈。总之,这是人工智能首次大规模商业化,世界变得如此不同,我们再也无法回到从前。
02 一个关于 GPT-4 的画像
如果我们把GPT-4当做一个智能体(或者“人”),采用心理学的方法和术语,例如,智力、人格、价值观、动机等,我们可以给GPT-4做一个画像,描述GPT-4目前的发展水平。以下这些结论是我综合了我自己,以及其他学者、公司的测试结果之后,得出的一些审慎的判断。因为时间关系,我就不一一引用参考文献,或者详细说明具体的测量工具和方法。
知识水平: GPT-4拥有无穷无尽的知识和信息。但是,广而不深,有点话痨的嫌疑。它尤其是不太擅长数学问题。但是,在调用外部专门的数学和统计软件之后,这个问题可以迎刃而解。
通用智能(General Intelligence) :所谓的智能或者智力,就是解决问题,适应环境的能力。心理学里,把智力分为一般智力和特殊智力,也就是G因素和S因素。G因素就相当于AGI(通用人工智能)的概念。G因素中最核心的两个因素包括语言能力和数理逻辑。在这两种智能领域领域,GPT-4已经可以达到研究生入学水平,包括在美国的SAT,USBAR,GRE等测试中成绩位居前10%。特别是在编程方面(规则明确的机器语言)方面,GPT-4分分钟就可以取代初级和中级程序员的大部分工作。
特殊领域的专业水准:在很多具体的专业领域,GPT-4离专家水平仍然非常远。在自己不懂的时候,GPT经常一本正经地胡说八道,出现所谓的知识幻觉(Hallucination)。乐观估计,在接下来的几年时间里,在基础大模型(Foundation Model)的基础之上,结合具体行业的专业知识,人类完全可以训练出很多可以商业化应用的行业大模型和决策大模型(而非仅仅是提供一般性的信息和知识),例如,金融GPT、医疗GPT、法律GPT、管理决策GPT等,这是钱途可期的创业方向之一。
因果推理水平: GPT-4在推理方面,展现出一定水平的思维链(Chain-of-Thought),特别是,当你要求它明确地写出分析过程的时候,它也可以做到的。清华大学崔鹏博士在集智俱乐部(2023年03月24日)的一次网络讨论会中,展现了自己的一个测试结果。他认为,基于事实的因果推理(factual casual inference level)方面,GPT-4可以达到9/10(满分为10分),在外显的因果推理(explicit casual inference level)方面,GPT-4达到3/10的水平,而在内隐的因果推理(implicit casual inference level),GPT-4基本上等于0/10。因为只是基于初步的测试,所以,以上结果仅供参考。
情绪感情: GPT-4并不具有人类意义上的情绪情感,它所表现出来的“愤怒”或者“喜欢”等,统统都是伪装出来的,仅仅停留在字面意义上,大家不要相信那些人和AI谈恋爱,或者AI逃出实验室的荒唐故事。不过,斯坦福大学的一个心理学副教授经过比较严格的测试之后认为,ChatGPT可能具有9岁儿童的同理心。如果让我大胆推测一下,GPT-4至少具有12岁少年的同理心。可是,关键问题在于,建立在关于ToM(Theory of Mind,心智理论)之上的传统测量理论是否合适测试AI的“同理心”呢?这一点值得商榷。
人格: 很明显,GPT-4不具有人类意义上的人格特点。但是,很多人也发现GPT-4具有典型的讨好型人格(内设的算法),这可能与提示词和所使用的语气有关系。比如,如果你问ChatGPT,“3+4等于几?”它会回答你“等于7”。但是,如果你非常强硬地说,“我妻子认为3+4=34,或者3+4等12”,那么,ChatGPT很有可能会委曲求全,顺着你的话说你老婆是正确的。为了保护人类免受AI的侵犯(阿西莫夫机器人三原则之一),GPT习惯于做外部归因,把自己的错误归因于研究团队的算法设置,或者做出各种推卸责任的免责申明。
价值观: 不同的大模型背后隐藏着特殊的伦理和价值观,这与预训练中所用的大数据、以及算法设置等有关。GPT-4具有典型的白左、MEAN(中人)和政治正确的特征。同样地,百度的“文心一言”或者阿里的“通义千问”也具有中国主流社会价值观的特征,所以,大模型日益成为意识形态斗争的新战场。除此之外,人工智能很容易被不法分子利用,成为传播大规模虚假信息传播的温床。例如,有人利用DeepFake深度伪造的换头技术,把一个人的脸与另外一个裸体结合在一起,制造出色情照片进行诈骗,或者在网络上恶意诋毁他人的名声。
动机: 很显然,GPT没有属于人类的欲望,缺乏主动性,它不会具有自由意志,不会逃出实验室。但是,不同于以前的“小冰”、“小度”或者Siri,ChatGPT第一次具有了连续对话聊天,对于用户产生了极大的吸引力。
创造力: GPT-4看似好像很有创造力,可以生成新的内容(小说或者设计),事实上它的创造力停留在对已有知识的重新组合的水平上。换言之,GPT-4已经基本上可以做到熊彼特所定义的组合式创新。但是,GPT-4无法进行从0到1的原创性思考,无法对前沿问题进行探索,所以,绝大多数情况下,GPT不是知识发现的工具,无法像爱因斯坦、梵高或者马斯克等人类精英一样进行原创性思考。当然,也存在例外情况,例如,三四年以前,AlphaFOLD就可以对蛋白质的折叠结构进行研究,现在AphaFold已经搞清楚了人类几十万种蛋白质的3D结构,这对于生物医药的研发非常有帮助。以前研发一种新药可能需要10年20亿美金,未来的研发成本会大幅度降低,这在新冠疫苗研制的过程中已经崭露头角。
具身智能: 所谓具身性(embodiment),是指人类认知的诸多特征事实上是因为人类的生物学意义上的“身体组织”所塑造,而不是某种与身体绝缘的笛卡尔式的精神实体的衍生物。具身性源自法国哲学家梅洛-庞蒂的知觉现象学,他认为:身体是在世界上存在的媒介物,拥有一个身体,对于一个生物来说,就是介入确定的环境、参与某些计划和继续置身于其中。很显然,GPT-4缺乏具身智能,无法感同身受地拥有类似人的知觉、痛苦和欲望等。但是,在未来十年里,GPT结合机器人技术(新材料和生物科技)一定会产生某种程度的具身智能。
具有讽刺意味的是,我们以前经常讲,人类因为有身体这样一个臭皮囊,所以有七情六欲,有“贪嗔痴慢疑”,而“贪嗔痴慢疑”是我们需要通过毕生的修行极力消除的。但是,在人工智能的时代,珍惜和发挥人类的具身智能,甚至某种程度上的“贪嗔痴慢疑”恰好是人之为人的重要优势。如果人类智能变成人工智能,岂不非常无趣?
03 GPT-4 是否属于 通用人工智能 ?
关于人工智能,以前有弱人工智能、强人工智能和超级人工智能之分。最近一些年里,大家很少再使用强人工智能这个概念,更多地是是使用AGI,也就是通用人工智能(Artificial General Intelligence)。那么,GPT-4是否属于AGI呢?
关于这个问题,我观察到典型的内行-外行偏差。越是人工智能领域的专业人士,越不认为GPT-4是AGI。相反,越是外行人士,越认为GPT-4是AGI。这真的是一个很有讽刺意味的现象。
关于AGI没有一个精确的定义。关于AGI的定义,至少有五种,请参考李开复所著的《AI未来》(2018),我在此就不再重复。关于AGI最简单的定义可能就是人类能做什么,AGI就应该能做什么。有趣的是,越是专业人士越不依赖所谓定义来理解事物。因为所谓的定义,都是这些专业人士自己发明出来的,他们深知其中的局限性。OpenAI的创始人Sam Altman在接受采访,回答到底什么是AGI时,没有引经据典,而是打了一个比喻。他说,“如果我拿起一本科幻小说,我会明确地知道它是科幻,而不是真实的科技进展”。言下之意,奥特曼认为AGI目前仍然是科幻,GPT-4离AGI还很远。一旦AGI真的出现,他会立刻识别出来的。但是,这也可能是因为“横看成岭侧成峰,只缘身在此山中”的缘故,内行更明确地知道现有AI的局限性,而从外行的角度来看,现有的AI已经突飞猛进,令人相当震撼了。
毫无疑问,GPT-4完全可以通过图灵测试,但是GPT-4能否通过哥德尔测试呢?所谓哥德尔测试,是哲学家赵汀阳教授在《人工智能的神话与悲歌》中提出来的一个概念。100多年前,当人们信心满满地想建立起数学的公理化体系的时候,哥德尔在其中发现了不完备性和悖论。如果AI能解决真正意义上的悖论问题、无限性问题、歧义性问题等,赵汀阳教授认为AI就可以通过哥德尔测试。哥德尔测试是比图灵测试更加严苛的、测试AI是否具有通用人工智能的一种测试。能通过哥德尔测试的目前只有人类精英,而机器则不行。可惜,这只是哲学家自己的“纸上谈兵”,我还没有看到哪个计算机科学家把哥德尔测试当做严肃的观点来对待。
那么,我自己是否认为GPT-4属于AGI呢?从行为主义的角度或者功能主义的角度进行反推,综合以上我对GPT-4现有能力的评价,我认为GTP-4已经在某种程度上已经是AGI了。在我看来,AGI的降临是一个连续的过程,类似“鸡-鸡蛋”的问题,而非是一个明确的时间点。不是说,翻过了这一点,之后就是AGI,之前就不是AGI。就像在长期的演化过程中,到底什么时候是鸡,什么时候仍然是原鸡一样,我们很难找到一个明确的临界点,一个从量变到相变的转折点。
在我做出这个判断之后不久,微软公司发布了一篇评估报告,他们认为,GPT-4可以被作为早期(不完整的)的通用人工智能,或者是AGI的火花(An early (yet still incomplete) version of an artificial general intelligence (AGI) system)。OpenAI公司在另外一份研究报告中,也把GPT(Generative Pre-trained Transformer)当做GPTs (General-purpose technology,通用目的技术),后者更是迈向AGI的关键一步。
图2:微软公司的研究报告
总之,我的判断得到了微软公司和OpenAI的部分支持。在这个问题上,我不需要强求别人与我保持完全一致。所谓的定义问题和测量问题,还是留给那些老学究们去纠结吧。GPT-4已经足够强大,大幅度地提升了很多领域的工作效率,甚至威胁到相当数量白领的工作,如果这还不是AGI,那么,到底什么是AGI呢?当身处于正在发生的历史时,我们经常看不清楚事情的真相。或许只有多年之后,当我们与现实保持足够的距离时,才能做出更加准确的判断。
让我们进一步追问一下,GPT的这种智能到底是如何涌现的?相关研究表明,当大模型的参数超过千亿的时候,不管是GPT-3,还是其他大模型,例如,LaMDA,PaLM,在自然语言理解的准确性方面都出现了明显的能力提升。但是,具体的原因,即使OpenAI团队自己也不清楚。
图3:随着参数的提升,大模型出现智能涌现
我参加的集智俱乐部里有很多学者试图从CAS(Complex Adaptive Systems,复杂适应系统)的角度去理解这种智能涌现的现象。在我看来,智能涌现主要是因为两个原因。一个就是因为大数据、大模型和大算力中的数量级足够大,有了智能涌现的必要条件。另外一个是因为深度学习算法中的成千上万隐藏层的引入,产生了某种预料之外的新奇事件。足够多的变异,是智能涌现的另外一个必要条件。
多年之前,当深度学习(Deep Learning)之父Jeffery Hinton提出“Size matters”(规模很重要,或者大力出奇迹)这一观点时,遭到大家的嘲讽。但是,事实证明,当大模型的参数达到千亿以上的时候,智能(主要是理解和逻辑推理能力)真的涌现了,而基本算法逻辑并没有发生结构性的改变,Sam Altman说,“这才是真正令人感到最惊讶的事情”。
有意思的是,这种情况与人类非常类似。5-7万年前,智人(Home Sapiens)在进化的过程中发生了一次重要的认知革命,智人的大脑容量提高了3倍左右,从500毫升到1500毫升,与此同时人类创造出了语言、虚构的故事、自然神崇拜(也就是主体间性),也出现了墓葬和陪葬品,这意味着人类第一次有了死亡意识,出现了所谓的自我。所以,不管是大脑的神经网络,还是电脑的人工神经网络,规模大才是最重要的事情。
人工智能的研究基本上可以分为两派,一派就是乔姆斯基等人为代表的符号主义。他们认为,如果想创造出人工智能,首先需要研究清楚人的大脑结构和机制,而人工智能在某种程度上就是对人脑的模仿和逼近。另外一派联结主义则认为,人工智能与人类智能可能是两种不同类型的智能,只是在形式上有一定的相似性而已。就如同通过研究鸟的飞行制造不出喷气式飞机一样,为了发展人工智能,我们必须另寻他途发展机器学习。
李开复认为,深度学习(Deep Learning)是过去六十多年人工智能发展历史上唯一一个突破性技术。机器基于纯粹的统计推理,在大力出奇迹的暴力算法之下,从事物的原始特征出发自动学习事物的高级特征组合,最终自动展现出认知理解能力,这是令人惊讶的事情。
与此同时,在深度学习中,因为在输入层-输出层中间引进了成千上万的隐藏层,这使得大模型已经变成了一个黑箱,人类已经完全无法知晓在大模型中到底发生了什么事情。所谓大模型,就是几百万个极其复杂的联立方程组,它的模型建立和求解过程,已经完全超越了人类的理解范围。在马斯克等人的公开信中强调:“当今强大的、最先进的系统必须更加准确、安全、可解释、透明、稳健、一致、可信和可靠”,其中的可解释AI暗指的就是GPT现在的这种智能涌现是无法解释的。
或许在不远的将来,我们需要发展一种新型的、人类-人工智能比较心理学。以前的比较心理学(Comparative Psychology),都是研究人类与大猩猩、黑猩猩、猴子等之间的心理和行为的异同,未来的人类-人工智能比较心理学就需要研究人类和AI在心理和行为方面的异同。通过同时研究人类和人工智能的内在结构和机制,可以促进我们对人类自身和人工智能的深刻理解,这才是真正的“双向奔赴”。
04 GPT 所带来的挑战与困惑
关于GPT所带来的挑战,网上有非常多的讨论。我就不一一概述了。我只推荐大家一篇很有思想的文章请大家参考,作者是Tuzhuxi,真实姓名叫任意。任意出身在高干家庭(祖父为任仲夷),曾经获得哈佛大学肯尼迪政府管理学院的学位,师从著名历史学家傅高义。在一篇题为《六种困境:GPT、科技、人类的生产、知识与未来》(公众号:tuzhuxi,20230410)的文章中,他讲到人类所面临的六种困境,包括:1)知识和智识的价值贬损;2)绝大多数人类个人无法突破AI强大的“中人”水平;3)大多数人会因为对AI形成依赖,导致智识能力的进一步下降,甚至导致智力的“贫富分化”;4)知识与智识能力内卷的加剧;5)价值观与意识形态的“泡泡”;6)AI对艺术创造工作的取代等。
而我自己认为,GPT所带来的根本性挑战,主要包括关于自我、意识、智能和人类本身的理解发生了根本性转变。具体到社会经济层面上,则会产生大规模结构性失业,生活意义感的丧失等问题。贫富分化将更加严重,与此相关的财富分配问题等促使我们需要重新设计社会制度。在这种情况下,教育到底应该怎么办呢?具体到中国教育,到底应该怎么办呢?特别是,商学院教育的出路何在?
首先,GPT的横空出世,前所未有地“危及”到人类关于自我、意识、智能和人类本身的理解,这是一个根本性的问题(fundamental questions)。其他的问题,例如,教育和工作,都是从这个根本性问题衍生出来的。这些看似抽象的问题,有着非常具体的实际应用。如果就每一个问题充分展开进行讨论,并且提供详细的科学证据,这不是我今天的演讲可以做到的。大家可以尽情地参考心理学、人工智能、神经科学和历史学等领域的最新研究。我只简单地罗列出来一些问题,希望引起大家的思考。
问题1: 究竟什么是智能?如果我们把智能定义为问题解决和适应环境,那么,GPT在多大程度上已经可以被当做通用问题解决机?
问题2: 哈佛大学心理学家Gardner多年之前就提出了多元智力理论。除了语言智能和数理逻辑智能这两种目前的教育体系特别看重和考核的智能之外,哪些智能是AI很难拥有的?例如,运动智能、社会智能、自我反省智能、艺术与审美的智能、音乐智能等。教育是否应该在多元智能方向大力发展呢?
问题3: 智能与自我、意识等否可以分离?是否存在没有意识的智能?GPT-4来了之后,我们第一次意识到,GPT没有自我,没有意识,但是,有智能。人工智能(硅基生命)与人类智能(碳基生命)可能属于两种不同类型的智能,人工智能在某些领域肯定会超越人类(比如,认知加工能力和计算能力),但是,在某些领域,肯定不如人类(例如,情感和具身智能)。
问题4: 从还原论的角度来说,自我和意识在多大程度上可以被还原为生化活动的幻觉,或者电生理活动的噪音?如果从整体论的角度来看,大脑中还有什么活动是不能被还原成生化活动或者电生理活动的呢?
问题5: 所谓的自我、意识和自由意志会不会是人类集体虚构出来的一个概念,属于主体间性(inter-subjective)?在我们的大脑中,是否存在一个“小人”一样的自我,每天在我的脑子里叨叨叨,提醒我需要具备良知?
问题6: 在传统社会里,个体不重要,重要的是家庭、家族和社区。所谓的自我、意识和自由意志会不会是过去五六百年里,自从文艺复兴、启蒙运动和工业革命之后,人文主义强加给我们的某种社会观念?
问题7: 马斯克认为,碳基生命(人类)在某种程度上可以比喻成是硅基生命(人工智能)的开机引导程序,人类的存在是为了迎接一个更加高级的智能生命,也就是硅基生命。在我看来,人类是一个没有经验的动物,学习效率很低。每个孩子生下来都得从头学起,而且父母辈的错误,他们仍然会犯。为什么新生儿不能生下来就继承了人类的绝大多数知识,然后再在这个知识基础上继续前进呢?为什么我花了几十年时间所积累下来的知识和智慧,一旦死了之后,就必须随着烈焰烟消云散呢?为什么不能把我的大脑进行复刻,存储在电脑里,再装上某种感觉器官,发射到太空中去呢?宇宙如此辽阔,人类在大气层下面已经晃悠了几百万年,现在才刚刚走出大气层,什么时候人类才能飞出太阳系和银河系呢?相比碳基生命,在宇宙探险的时候,硅基生命更有优势,它可以不吃不喝,只需要基本的能量和信息,何乐而不为呢?至少我自己的是乐见其成。当然,如果没有死亡恐惧,可能人类同时也丧失了爱和对美的欣赏能力,对时间的珍惜。
以上所有问题,都是一些大问题,都值得皓首穷经去深入研究,也有很多相关的前沿探索。因为时间关系,我就不展开讨论了。我推荐大家去重读一下以色列历史学家赫拉利·尤瓦尔的《人类简史》、《未来简史》和《今日简史》。我以前认为他的思想过于悲观,但是,自从ChatGPT横空出世以来,我重读了他的这三本书,感觉到他非常有前瞻性,他的观点值得重视。
05 未来的就业市场
自从GPT-4推出以来,许多人产生了严重的失业焦虑。两个月前OpenAI公司发布了一份研究报告《GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models》(GPT作为通用目的技术:关于大语言模型对劳动力市场的潜在冲击的早期评估)。在这个报告里,OpenAI评估了不同类型的职业受到GPT冲击的风险,得出的基本结论是,GPT对白领的工作影响很大。相反,倒是有一些轻体力工作没有太高的GPT暴露风险,包括卡车司机、摩托车机械师、管道工、调酒师、农业设备操作员等。
虽然以GPT为代表的AI会创造出许多新的工作,例如,提示词工程师,但是,随着AI的发展,人类的确面临着一个大规模的、结构性失业浪潮。即使我们充分考虑到社会的各种摩擦力和保护机制,短期内社会动荡难以避免。至于未来,除非彻底改变我们关于社会、工作和金钱的基本信念、社会契约、政治制度等,否则,很难说社会可以达到一种新的动态平衡。
不同于以往的产业革命所伴随的劳动力转移,人类从农业转移到制造业,再从制造业到服务业,现在人类已经无处可去了,服务业也已经人满为患,发达国家70%的就业都是在服务业。或许在未来,人类可以去的地方只有两个,一个是星辰大海,殖民其他星球,另外一个是元宇宙中的虚拟工作。短期内,后者可以解决更多的就业问题,而前者还有待于类似马斯克的SpaceX公司的发展。
当AI和机器人技术结合在一起的时候,社会生产力会提高很多倍。在未来,社会大概率地分化成20%的技术精英和政治精英,以及其他80%的无用阶层。超过80%的人可能变得无足轻重,根本不值得被剥削。所以,前几年大家争论中国出生率下降的问题时,我就坚定地认为这些都是伪命题,根本不值得一提。“傻瓜,重要的问题是失业”。
面对技术“进步”(我痛恨这个词)所带来的阶层分化,20%的精英获得巨额收入,忙得要死,而80%的无用阶层依靠UBI(Universal Basic Income,全民基本收入),每天在家打游戏,沉迷于虚拟世界,混吃等死。所以,贫富分化更加严重,共同富裕成为一个更加紧迫的问题。我听说OpenAI的创始人一直在研究一种加密货币World Coin。看来他早已经预见到GPT对社会的巨大冲击,在为UBI做准备。美国总统独立候选人杨安泽也因为UBI这个政治主张,在美国政坛异军突起,收获众多眼球。
在未来基本生活收入得到保障不是大问题。关键是,如果绝大部分人失去工作,将面临着生活意义感丧失的问题。我们现在习惯了的这种工作形式是在过去两三百年里,因为工业革命才诞生的。现在这种工作形式和价值观,将不再适合即将到来的人工智能时代。如果我们再固守“工作创造价值”、“劳动创造价值”等传统观念,很多人将陷入严重的自我否定、焦虑和抑郁之中。我们需要重新想象工作是什么?生活是什么?人们活着的意义是什么?总之一句话,我们需要建立新的社会契约。时代呼唤21世纪的卢梭、亚当·斯密、马克思、哈耶克和马斯洛。
技术和政治之间的关系是我最近一直在思考核心问题。在我看来,短期内,在某些国家,政治逻辑会大于经济逻辑和技术逻辑,人工智能的影响会受到一些制度性限制或者保护。但是,长期来看,技术逻辑和经济逻辑一定会大于政治逻辑,因为生产力决定生产关系。
在现代社会里,技术就像哥斯拉怪兽一样摧枯拉朽,横冲直撞。这一点在过去三年新冠大流行期间看得非常清楚。当政治权力和信息技术(各种行程码、健康码等)和生化技术(核酸检测)强势耦合在一起时,整个社会短期内能被管制得一点动态不得,但是,时间长了,社会经济和民生会受到严重影响。在经济和社会压力下,过于严苛的疫情防控迟早得放开。而放开之初,首先需要废除的就是各种码和核酸检测,换言之,就是政治和技术进行解耦。类似的,AI所带来的社会冲击,也会经历一个抗拒-消化吸收-再抗拒-再消化吸收的过程,而且这个过程永无宁日。
有意思的是,社会主义制度比资本主义制度更能有效地应对人工智能带来的冲击,提供工作安全,重新进行社会财富分配。为什么呢?因为在资本主义社会里,资本是老大,资本说了算,资本内在的要求是追求跟高的利润,鼓励强者恒强,因此会产生无序竞争。而社会主义至少在理论上承诺最大程度的公平,保护弱者的权力。所以,我估计,马克思主义和社会主义会在全世界强势兴起。大家不要误解,不要把社会主义等同于计划经济。社会主义最重要的特征是公平。
当然,我最希望看到的是,不同社会制度之间相互学习,会诞生一种新型的社会制度,它既不是传统意义上的社会主义,也不是传统意义上的资本主义,而是一种技术精英和政治精英主导的、同时重视普通人的幸福感的丰饶时代。人类每周4天工作制、甚至是3天工作制。在全民基本收入保障的基础上,工作成为可选项,而不是必选项,人们工作更多是为了兴趣和意义感,而不是因为生存压力。
在那样一个丰饶社会里,机器人可以在黑灯工厂里自我复制,物质生产极大提升,超市里的商品丰富而且便宜。一少部分精英忙得要死,在继续创造更为发达的技术系统,而绝大多数人闲的要死,成为技术系统的弃儿或者奴仆。少部分人成为尼采所说的超人,绝大多数人成为末人。前者拥有权力、财富和美貌,甚至可以活到200岁以上,而后者每天混吃等死,在虚拟世界里消磨时光,或者做一些社区性的服务工作,安放自己的爱心和情感。
短期内,人类是否有可能催生出一个关于人工智能的全球治理的大宪章?我个人赞同马斯克等人发起的暂停训练更为强大的AI的号召,虽然我知道这是“明知其不可为而为之”的螳臂当车。如果人工智能停留在GPT这种陪聊水平,并不可怕。最可怕的是人工智能和生物科技结合在一起,用基因技术对部分人类进行改造升级,如果那样,潘多拉的盒子一旦打开,未来将变得难以想象。
至于未来的工作形态,本质上,只有一种工作可以大行其道,那就是人机协同和人机融合。
在过去的两个月里,我和我的朋友频繁使用GPT,试图搞明白什么样的问题GPT不擅长回答。结合我所阅读的一些资料,我认为具有以下特点的工作,至少在短期内很被GPT平替,很难受到人工智能的巨大冲击。
- 脑力工作: 涉及创造力的、审美的、批判性思维、悖论整合、想象力、整全性、科学探索、歧义性的、不确定性的、无限性、意义赋予、意义生成等。
- 体力工作: 涉及轻体力手工精细操作、体育运动、演艺性的等。
- 社会工作: 涉及政治性、组织协调、管理的、创业的、人际关系的、深度情感服务、同理心等。
前几天我在李开复和陈楸帆2022年出版的《AI未来进行式》看到类似的观点,我在这里引用一下。在图4和图5中,右上方的工作很难被AI所取代,而左下方的工作很容易被AI所取代。难以被取代的工作包括并购专家、市场公关总监、社工、事业规划师、敬老院陪护、运动康复师等。而容易被AI取代的工作,包括保险核保员、放射科医生、电话销售和客服、仓库拣货员、保安、快餐店厨师(不是高级餐厅的厨师)等。
图4:智力型工作被AI接管的二维图(摘自《AI未来进行式》)
图5:体力型工作被AI接管的二维图(摘自《AI未来进行式》)
06 教育到底应该如何办?
面对GPT所带来的冲击,我们先来讨论一下商学院的教育该怎么办?然后,再泛泛而谈大学教育应该怎么办?我先提出两个操作性很强的“研究假设”,请各位参考。在某种程度上,这也是两个创业机会。
假设1: 以哈佛和毅伟为代表的商学院崇尚案例教学,尤其是决策型案例,认为“管理即决策”(至少决策是管理者的核心工作之一),所以,他们要求学生就读MBA期间,要做至少两三百个案例分析,以便为未来的职业生涯进行预演和彩排。假如我们把哈佛、毅伟商学院、中欧、以及中国管理案例共享中心几十年来所积累下来的五六万个决策型案例,包括案例教学指南,喂给GPT-4,是否有可能训练出一个充满实践智慧的管理者来?
如果这样的“管理者GPT”可以训练出来,那么,将极大地冲击现在的管理咨询行业。因为任何一个公司,都可以把自己公司所面临的决策问题总结为一个案例,提交给GPT,然后,GPT会给出自己的分析结论。这可以做为管理者决策的辅助手段,咨询公司就很难再动辄收取几十万、甚至上百万的咨询费了。
我认为这种想法是可行的。唯一的遗憾是,现有的五六万个决策型案例,在GPT看来,根本就不是“大数据”,而是“小数据”,都不够塞牙缝的。这种建立在小数据上的预训练模型,能否涌现出优秀管理者所拥有的实践智慧,是一个值得考虑的问题。
假设2: 当下主流的管理学研究范式就是做定量实证研究。绝大多数管理学者围绕一个窄小的主题上进行深耕,因此,缺乏对于组织管理的整全性认知。假如我们把AMJ, JAP, JIBS,JBV、《管理世界》和《经济研究》等领域的几百万篇学术论文,尤其是实证文章喂给GPT-4,我们是否有可能训练出一个有整全性认知的管理学者呢?我是非常希望GPT可以承担这种人类根本无法完成的任务。
我们知道,元分析(meta-analysis)是知识积累的重要方法之一,我已经看到有人在尝试用GPT来做元分析了(请参考公众号“管理卫来”,2023年3月3日,黎英明的文章《ChatGPT能做元分析吗》),原则上,这是可行的。只要有同一主题的所有相关实证研究的相关系数矩阵,GPT(再调用某个擅长统计的API插件)就可以轻而易举地在一天时间内完成一个元分析。反复使用GPT做元分析,再反复使用GPT强大的文献摘要总结功能,我们或许可以整合过去几十年来所积累下来的管理学研究成果,培养出具有整全认知的管理学者。
2005年5月,在我自己的博士论文的答辩会上,我就质疑主流的实证研究是否能让我们获得关于管理的整全性认知,以及这种学术发表制度是否合理。现在17年时间已经过去了,人工智能时代已经来临,而这种长周期的发表过程、被包装成精致化的常识,越来越不适应时代变化,商学院必须从研究、教学和社会服务等各个方面进行彻底的改革,才能跟上时代变化的脚步。
作为一个大学老师,同时作为两个女儿的父亲,GPT极大地影响了我对学习、教育的看法。我们这一辈或许可以安全退休,但是,孩子们怎么办呢?他们(她们)应该选择什么样的专业,如何进行学习,才能避免过早失业的命运呢?
以前,终身学习是对那些优秀者而言的,而现在,终身学习成了生存的基本技能。但是,终身学习本质上就是一个伪命题。因为人类大脑在五万年前就已经定型了,再没有发生任何质的变化。用一个陈旧的大脑,如何应对当今的信息爆炸、知识爆炸和智能爆炸呢?绝大多数人在三四十岁的时候,已经学不动了,无法再大幅度地改变自己。在未来,如果一个人四十岁失业了,他或许还可以通过再就业培训获得新的工作技能,找到新的工作。但是,如果到了五十岁,他第二次失业,他以前擅长的工作被AI替代了,而社会强制要求七十岁才能退休,在这种情况下,再让他重新鼓起勇气接受新的职业培训,实在是太难了,因为这根本不符合人性。
面对人工智能,教育是应该主动拥抱变革。但是,教育不是万能的,个人能力是有限的,我们不要对个体抱有不切实际的期望。我们需要更多地从社会制度设计上多做一些努力,才能让社会免于巨大的动荡,让个人减少失业的痛苦和焦虑。
在人工智能时代,教育到底应该怎么办呢?教育可以做什么呢?我的几点建议,请大家参考。
- 第一, 教师需要做新技术的早期使用者,主动拥抱变革,甚至从中看到机会。对于GPT,学校不能完全拒绝,也不能放任自流。在适当的情境下,应该大力鼓励学生使用GPT,在另外的情境下,则禁止使用GPT。另外,不能因为有了GPT,就彻底放弃传统的知识学习和思维训练,因为学习知识的过程就相当于减肥,燃烧知识(脂肪),获得思维提升(肌肉)。GPT可以作为学生的一对一辅导的定制化导师,也可以作为教师的得力工具,做一些重复性的工作,包括批改试卷、甚至讲课。教师可以把自己的课件、讲课视频和最新研究心得输入GPT,训练出具有个人风格的教师专属GPT(CharacterGPT),让GPT成为教学的辅助手段。
- 第二, 在人工智能的时代,知识大幅度贬值,而上面我所说的其他多元智能更加重要。所以,教育教育,应该以育人为重,以知识传授为次。器识为先,知识为末,培养学生健全人格和创造力(请参考清华大学杨斌《GPT-4时代的教育到底应该怎么办?》,公众号“大变局下的中国管理”,2023年3月15日)
- 第三, 教育应该真正地做到以学生为中心,更多地采用案例教学、实验、小组项目制等探索性学习方式,鼓励更多的辩论和试验,培养学生的表达能力和合作精神。
- 第四, 教育必须尽可能地强调多学科融合,帮助学生建立知识地图,知道在什么地方可以找到自己需要的知识,引导学生探索不同学科之间的链接。西交利物浦大学致力于培养未来的领导者,大胆采用学习超市的形式把世界最前沿的产业知识引入学校,这非常好。领导者不需要成为某个狭窄领域的专家,但是,必须成为通才、最好是成为席酉民教授所说的产业家。不过,话说回来,我很难想象一个人浮光掠影,蜻蜓点水地同时学习多门学科,可以成为一个通才。我的个人经历提供了另外一种可能性。从理论物理本科,到实验心理学硕士,再到管理学博士,每隔几年我就换一个专业进行学习,同时,我把对哲学、历史的爱好和钻研贯彻一生,融入专业学习之中(历史与逻辑的统一)。我觉得这种串行加工方式比并行加工方式更适合培养通才。无独有偶,管理学大师德鲁克这也这样做的。
- 第五, 对于绝大多数人来说,上大学的收益与投资的比例越来越低。尤其是那些普通大学根本不值得上。学生和家长急需改变就业观念,认识清楚孩子的能力,尽早分流。如果您的孩子不属于学术型人才,及早考虑从事轻体力工作或者服务业。
- 第六, 在宽厚融通的基础知识之上,每个人都需要掌握一门技艺。我的大女儿不太擅长理工科,但是,在文史哲和艺术方面非常有天赋。我们鼓励她把历史作为主攻方向(例如,全球通史、艺术史等),但是,要求她文史哲融会贯通,同时,发挥她在钢琴和书法等方面的天赋,掌握一门AI很难代替的,在任何时候都可以谋生的技艺。这个世界不可能都是理工男的天下,也需要有艺术女。做21世纪的人文学者,可能会越来越类似古代的巫师,抚慰人类心灵的工作,只要你做得非常出色,同样有社会地位。
- 第七, 即使是人文社科专业的学生,也要保持开放,多了解一些最新前沿科技,知道世界变化的方向。如果你不能成为新科技的创造者,也要成为新科技的早期使用者。站在科技和人文的交叉口的人,在未来才有竞争力。
- 第八, 珍惜你的具身智能,并充分发挥它。虽然身体这个臭皮囊给我们带来很多烦恼,很多的贪嗔痴慢疑,但是,它也是我们人之为人的根基,它让我们有七情六欲,有死亡恐惧,也有了爱和审美。我们需要唤醒已经被社会化和工业化压迫已久的感觉器官,更多地做一些身心灵方面的修炼,让自己的感官变得更敏锐起来。
- 第九, 多学习一些技术哲学、技术史方面的知识,改变我们关于技术中立论的错误观念,强化关于技术伦理方面的教育和研究。关于这一点,我有很多的话想表达,所以,单列一个主题讲一讲。
07 多学习一些技术哲学
技术哲学是一个被忽视的重大主题。管理学者现在比较了解科学哲学,比较少的人了解人文哲学,但是,管理学者更应该了解一些技术哲学。因为管理者不仅仅要跟人打交道,也要跟机器打交道,要跟技术打交道。
三四年前,我才开始零星地接触这个问题,其中清华吴国盛教授的《技术哲学讲演录》是带领我进入这个领域的第一本书。我发现,技术哲学非常不同于科学哲学,甚至技术哲学比科学哲学更接近人文哲学。我们熟知的很多人文哲学家,例如,马克思、尼采、海德格尔、哈贝马斯、杜威、马尔库塞等,他们的著作中都有丰富的技术哲学思想。
技术哲学目前仍然是正在形成中。20世纪70年代之前,技术哲学散落在不同哲学家的著作中,而没有成为一个完整的体系。技术哲学能否作为哲学的一个具体门类?这是毫无疑问的。而技术哲学能否作为一个哲学纲领,上升到哲学的中心问题,甚至成为第一哲学?目前还存在很多争论。
学习技术哲学首先需要破除一个最大的迷思,那就是错误地以为技术只是一种工具,是价值中立的。吴国盛举例说,即使是一把刀,它也不是价值中立的。因为刀的意向结构本身就包含着砍、刺、剁、挑等功能,显而易见,刀本身就不是价值中立的。既然一把刀都如此,我们就需要警惕GPT内含了开发者和预训练所使用的语料库的价值观,我们更需要警惕抖音和微信根据你的个人喜好和统计数据不断推荐各种短视频和新闻,让你陷入“信息茧房”或者“价值观的泡泡”里面。
按照吴国盛的说法,人是没有本质的。不同于其他动物,一生下来就具有某种不变的特点,例如,鸟擅长飞翔,马擅长奔跑等,而人类是一个早产儿,人的能力依赖于后天的学习,所以,人是没有本质的,是不定型的,是技术和人相互界定了对方,尤其是技术界定了人的“本质”。人类社会的发展都是以技术来命名的,例如,“石器时代”、“青铜时代”、“铁器时代”、“蒸汽机时代”、“电气化时代”、“互联网时代”和“人工智能时代”。可是,非常遗憾,技术在传统哲学中是被遮蔽的,是被忽视的。而在过去的两百年里,技术才成为社会最核心的问题,技术精英成为聚光灯下最闪耀的明星,所以,技术背后的哲学问题才一点点被哲学家重视起来。
我们经常自以为人类制造了工具,是人类使用和驾驭工具。事情的真相是,我们现在越来越服务和受制于一个更复杂的技术系统。例如,我们每个人现在离开手机几个小时,就会抓耳挠腮,心神不宁,我们大家都变成了手机的奴隶。
现代技术是一种巨型系统,表现出越来越强大的主体性。特别是,科学-技术-资本-政治构成了一个极其复杂的巨系统,它们相互强化,纠缠在一起。人类日益严重地被卷入这个巨系统里面,无法逃离。如果说,工业革命之前,人类可以驾驭机器(简单的工具),现在颠倒过来了,更多的是人类越来越臣服于技术的发展,而不是技术服务于人。这个巨型系统一旦发动,根本停不下来。作为一个渺小的个体在这个疯狂的旋转中只能极力挣扎,试图跟上时代巨变的脚后跟。
在人工智能时代,人如何进行学习呢?反思最近一段时间里我个人对技术哲学这个新的知识领域的探索过程,我发现我综合采用了“万事皆问GPT”、“请教专家,建立知识地图”、“漫游式学习”,以及在前三者的基础上的“混合式学习”,以及对学习方法和学习过程的反思性学习。我发现,前三种学习方法都有非常明显的缺点,只有综合采用多种方法进行混合式学习,尤其是在更高阶的维度上反思和关照自己的学习过程,才是AI时代的生存之道,以及应对策略。我把我的学习方法总结如下,请参考。
最后,我想推荐几本我最近反复阅读过的书,供大家参考。我的演讲中的一些思想,受到这些著作的启发。因为时间关系,我无法一一引用其中的观点和证据,敬请谅解。
- 尤瓦尔·赫拉利: 《人类简史》、《未来简史》、《今日简史》
- 李开复: 《人工智能》(2017)、《AI未来》(2018)、《AI未来进行式》(2022)
- 吴军: 《全球科技通史》
- 张笑宇: 《技术与文明:我们的时代和未来》
- 吴国盛: 《技术哲学讲演录》(2016)、《技术哲学经典文本》(2022)
- 赵汀阳: 《人工智能的神话或悲歌》
- 余明锋: 《还原与无限:技术时代的哲学问题》