50 个大模型 vs 258 个人类心理学实验:AI 的「常识」离人类还有多远?

0 阅读1分钟

氛围图

💡 一句话总结:数学考试 AI 已经超越人类,但「理解人类怎么想」这件事呢?MIT 团队把认知科学几十年积累的 258 个经典实验标准化成统一考卷,让 50 个大模型和人类同场竞技:模型确实越来越像人,但天花板还有很远——而且「常识」这一科的成绩增长明显掉队于数学和编程。所有「AI 达到人类水平」的说法,都该先过这张考卷。

导语:「像人」不是感觉,是可测量的科学问题

「GPT 像人一样思考吗?」——这类争论通常止于各说各话的感觉。认知科学的回答方式一直很明确:拿实验来。几十年的人类行为研究留下了成千上万个精心设计的实验范式:人怎么推断他人意图、怎么理解模糊指令、怎么看图推理因果。

问题在于工程:每个实验都有自己的材料、流程、计分方式,把 258 个实验标准化到能给 50 个模型统一施测——这是认知科学与 AI 系统工程的大规模联姻。MIT 领衔、哈佛/康奈尔/斯坦福等十几家机构参与的 CogGym 做成了这件事。

想看原文?

它的思路是什么?

  • 🧪 EML 实验标记语言:把认知实验的刺激材料、流程、计分规则标准化成任务无关的统一格式——半自动管线 + 人工校验保证「忠实转译」每一个实验
  • 👥 真人类锚定:不是「猜人类会怎么答」,而是用论文里的真实人类响应数据逐试次对齐——对比的是「模型 vs 真人」,不是「模型 vs 常识直觉」
  • 📏 以人类信度为天花板:人类自己重测一遍的信度(split-half reliability)R² 是 0.92–0.95——这是任何模型「拟人度」的理论上限,也是诚实的标尺

效果到底怎么样?

  • 📈 缩放有效,但天花板很远:更大更新的模型确实更接近人类判断——但最佳模型 R² 仅 0.59(文本)、0.58(图像)、0.43(视频),而人类信度是 0.93/0.95/0.92。最好的模型也只到人类「自己像自己」程度的六成
  • 🐢 常识掉队:模型在数学、编程等形式推理基准上突飞猛进,但在人类常识推理上进步明显偏慢——「会算题」和「懂人」是两条不同的能力曲线
  • 🔬 方法学彩蛋:直接让模型在同一温度下重复采样,分布远比人类尖锐(模型「过度自信」),低估了人类的意见分歧——让模型口头报告「人群分布」的诱导方式更靠谱

为什么你要关心?

  • 🚨 给「AI 达到人类水平」叙事降温:考试分数超越 ≠ 认知上像人。产品里让 AI「预测人类反应」(A/B 测试预演、用户调研模拟)的团队,这个 R² 差距就是你的误差预算
  • 🏗️ EML 是可复用的基础设施:把实验标准化为统一格式再大规模施测的思路,适用于任何需要「跨系统对比行为」的场景
  • 📏 「以人类信度为天花板」的评测设计原则:任何「像不像 X」的评测都应该先测 X 自己的信度做标尺——否则 0.59 和 0.95 的差距根本无从谈起

理性看待

冷静看三点:258 个实验集中在常识推理子域,社交推理、道德判断等更多认知领域待扩展;实验源自已发表论文,存在经典文献的选择偏差;verbalized prompting 自身也有诱导偏差。但作为迄今最大规模的人机行为对比,CogGym 的核心结论足够清醒:AI 在模仿人类这件事上进步真实存在,但离「以假乱真」还有整个认知科学的距离。