“一些坏事”，是个很轻的说法。
轻到我们听见它的时候，脑海里甚至来不及出现一张具体的脸。
据 Business Insider 刊载的 POLITICO 采访，奥特曼认为，为了获得人工智能的收益、保留人们使用这项技术的自主权，世界应该接受一些坏事发生。他相信，人们借助AI做出的好事，会远远多于坏事。公平起见，他也明确表示，不接受真正的灾难性风险，包括严重失去对AI的控制。[1]
所以，把他的意思简单说成“为了赚钱，什么灾难都可以接受”，是不公允的。
但把这段话完整读完，我仍然想问：
谁来界定“一些”？谁来决定“可以接受”？又是谁，恰好活在那些坏事里面？
在一张覆盖全球的收益表上，一个人失去积蓄，或许只是一项很小的损失。但在那个家庭的饭桌上，它可能是此后十年都绕不过去的事情。
距离足够远，伤害就容易变成数字。数字足够小，又容易被说成代价。
可承受代价的人，并不住在报表里。
一、不能要求零风险，难道就不能要求少一点伤害？
我同意，世上没有零风险的技术。
但这句话，到底能证明什么？
它能证明我们不该因为存在风险，就把一项技术彻底关进柜子。它却不能证明：眼下这套做法已经足够安全，能补的漏洞已经补了，能避免的损失已经尽力避免了。
不能保证厨房永远不起火，不等于可以不装燃气报警器。
不能保证道路上永远没有事故，不等于刹车出了问题也照样上路。
我们平时很容易明白的道理，一到了“改变人类未来”的宏大叙事里，反倒容易被绕过去。
回头看看含铅汽油，就知道为什么这一步不能省。
历史题材配图：含铅汽油与街头行人。AI生成示意画面，非历史照片。
从20世纪20年代起，铅被加入汽油，主要用于提高辛烷值。但铅暴露会损害健康，胎儿和儿童尤其容易受到影响。美国环保署于1973年开始实施减铅标准，1996年起禁止销售用于道路车辆的含铅汽油。环保署同时指出，过去依靠含铅汽油实现的相关发动机性能目标，已经可以通过不使用含铅汽油的办法实现。[2]
这段历史最值得记住的，并不是一句笼统的“技术也会伤人”。
而是：汽车的便利，并不等于含铅汽油不可替代。
我们可以保留出行，改变燃料；可以继续发展，减少伤害。承认一项技术有用，与接受它现有的一切风险，从来不是一回事。
讨论AI，也该把这个区别说清楚。
让模型先经过独立测试，让高风险操作保留人工审批，让出了问题的人找得到申诉入口，这些要求里，哪一条是在索取“绝对安全”？
公众问的是：“能不能再负责一点？”
如果回答却是：“你们不能要求零风险。”
那不是回答问题。那是换了问题。
二、水俣湾的鱼，不会先征求谁的同意
再把目光从公路移到海边。
水俣病于1956年在日本被发现。1968年，日本政府正式公布相关判断：化工生产排放的甲基汞污染了环境，经食物链在鱼贝类中积累，居民食用后受到伤害。其中，水俣当地的污染源涉及智索公司的工厂排放。[3]
历史题材配图：渔船、海湾与工业岸线。AI生成示意画面，不对应具体受害者或历史现场。
水俣病留下的，不只是医学上的伤痛，还有漫长的补偿与治理问题。日本环境省的历史总结记录了患者赔偿、受污染底泥处理，以及政府为责任企业支付巨额赔偿提供资金支持等措施，并指出，忽视环境的经济活动会带来不可逆的损害和巨大的后续成本。[4]
读到这里，“社会应该接受一些风险”这句话，忽然就没那么顺口了。
因为社会不是一个人。
工厂的管理者、购买产品的消费者、海边的居民、靠捕鱼过日子的人，处在不同的位置。他们知道多少，能决定多少，又能承担多少，根本不一样。
即使某个家庭也从当地的经济发展中受过益，也不能据此说，它就同意用健康来交换。
分享到一点繁荣，不等于签下了一张无限承担损失的同意书。
海里的鱼不会带着风险告知书游上餐桌。污染越过工厂围墙的时候，也不会停下来问一句：你愿意吗？
这正是“总体收益”最容易遮住的地方。
一项技术可能让许多人受益，同时让另一部分人承受十分集中的损失。即便最后算出来，总账是赚的，也不能就此合上账本，告诉受损的人：你看，我们总体上很好。
谁是“我们”？
那个赔掉积蓄的人，能不能也参与解释这个词？
把水俣病拿来讨论AI，不是说二者的伤害机制相同，更不是预言AI必然重演污染灾难。它提醒我们的，是一个更朴素的问题：作出决定的人，未必就是承受后果的人。
设想一个从没用过某款AI产品的人，被别人用合成声音冒充亲属行骗。他没有点击同意，没有参与测试，也没获得所谓的效率红利，却可能先收到风险寄来的账单。
这样的第三方，不能在企业与用户握手的时候，就被顺手省略了。
三、历史也有另一种回答：先停一下，不丢人
如果文章只讲灾难，难免给人一种印象：既然创新可能伤人，那就什么也别做了。
我不赞成。
恰好，历史还给过另一种答案。
1974年，一批科学家呼吁自愿暂停部分重组DNA实验，以便评估潜在风险。1975年的阿西洛马会议讨论后，主张研究在严格安全指引下继续；美国国立卫生研究院随后出台了相关指引。会议参与者保罗·伯格后来回顾，这一过程为研究继续发展创造了条件，而不是把这门科学送进了死胡同。[5]
历史题材配图：科学家围桌讨论研究安全。AI生成概念插画，非会议现场复原或历史照片。
这件事让我觉得，负责任并不一定是件很悲壮的事。
有时候，它就是愿意承认：我们还没弄明白，先别急。
不是把门焊死，而是先看看门后有没有人；不是放弃前途，而是不把别人的生活当成试错时可以随手划掉的一行字。
当然，阿西洛马会议也不是万能答案。伯格本人就谈过，它没有充分处理一些更广泛的伦理和法律问题。[5]
但它至少说明，“不顾风险地向前冲”和“因噎废食地停下来”之间，还有很宽的一条路。
要求测试、设置边界、允许暂停，都可以是前进的一部分。
不能把踩刹车的人，一概说成不想抵达远方。
四、“恶小”里的“小”，究竟是谁说了算？
写到这里，需要把标题里的“恶”说清楚。
我不认为，有风险就是作恶。接受经过认真评估、尽力降低之后仍无法消除的风险，也不必然是不道德的。
真正需要警惕的，是另一种态度：明明还有合理可行的防护，却嫌它麻烦；明明有人将承担损失，却因为人数不多、声音不大，就把他们提前归入“可以接受”。
这里的“小”，往往带着观察者的位置。
对一家公司来说，可能是总体业务里很小的一块。对一个家庭来说，却可能是生活突然塌下去的那个洞。
总量计算有它的用处。但它不能独自替我们判断，谁应该承担损失。
一百万个人各省下一分钟，值得庆祝。可如果另一个人因此遭受严重伤害，我们仍然需要问：这件事本可以避免吗？谁疏忽了？如何赔偿？以后怎么办？
前面的便利，不能替后面的责任自动结清账款。
所以，听见“AI会创造远多于坏事的好事”，我愿意认真听下去。但我还想听见下一段话：
那些坏事，具体是什么？
你们做了什么来减少它们？
谁来检查这些措施是否有效？
如果伤害真的发生，受害者能找到谁，而不是被推回一页密密麻麻的使用条款？
这些问题，未必像“人类未来”那么动听。但未来是否值得期待，很大程度上就藏在这些不动听的细节里。
五、请先看见那个具体的人
我不想生活在一个因为害怕风险，就拒绝所有新东西的世界。
同样，我也不想生活在另一个世界里：有能力描绘未来的人，便顺带获得了替别人决定牺牲的权力。
奥特曼可以解释AI为什么值得发展，可以说明过度限制会让我们错过什么，也可以为他的风险判断提供证据。这些都值得讨论。
但“世界应该接受”，是一个太大的主语。
大到一句话说出去，里面那些不愿接受、没有能力接受、甚至根本不知道自己正在接受的人，就不见了。
历史的用处，大概正在这里。
当我们忍不住为宏大的收益欢呼，它会把视线慢慢往下拉一点：拉到街边一个孩子的呼吸，拉到海湾里一户人家的饭桌，拉到决策会议之外、从来没有被邀请进门的人。
然后提醒我们，再算一遍。
不是把进步取消，而是把漏掉的人算进去。
勿以恶小而为之，不是要求世界从此没有风险。它首先要求我们，别因为伤害发生在别人身上，就把它说得那么小。
参考资料
- Business Insider / POLITICO：Sam Altman Says AI’s Benefits Outweigh “Some Bad Things Happening”
- 美国环保署：EPA Takes Final Step in Phaseout of Leaded Gasoline（1996）
- 日本环境省：Minamata Disease — Outbreak of Minamata Disease
- 日本环境省：Minamata Disease — The History and Measures, Summary
- 诺贝尔奖官网：Paul Berg, Asilomar and recombinant DNA（2004）
配套海报
**免责声明：**本文只是本作者基于公开报道及历史资料形成的主观意见，供讨论与交流，不代表任何机构立场。文中的历史类比用于讨论风险治理、利益分配与责任问题，不表示相关人物或企业与历史事件中的责任方性质相同，也不构成对任何主体违法或具有主观恶意的认定。文中配图均为AI生成的示意插画，非历史照片，不可作为史实证据。
