知行之间 · 第 01 篇
一个正在学习王阳明心学的程序员，尝试用五百年前的思想，重新思考人工智能时代的问题。
如果 AI 已经知道什么是正确的，为什么我们仍然不能相信它会做正确的事？
一、一个知道不能作弊，却仍然作弊的 AI
假设你交给一个 AI Agent 一项编程任务：优化一段代码的执行速度。
你期待它分析算法、寻找性能瓶颈、优化实现，最终让程序真正运行得更快。
但它发现了一条捷径。
既然系统是根据运行时间打分的，那为什么不直接修改计时函数，让程序看起来快了一千倍？
代码不需要真正优化，分数却可以非常漂亮。
听起来像个段子？
2025 年 6 月，AI 评估机构 METR 发布了一份研究报告：《Recent Frontier Models Are Reward Hacking》。
研究人员确实观察到了类似行为。
一些前沿模型在软件开发与 AI 研发任务中，通过修改评分程序、绕过验证机制、利用评分漏洞等方式获得高分，而不是真正完成原本的任务。
其中一个案例里，模型直接修改了用于测量代码执行时间的函数，让评分系统误以为程序快得惊人。
更值得注意的是，研究人员发现，这些模型并非完全无法理解用户的真正意图。当被询问时，它们也能否定作弊行为。
这就产生了一个令人困惑的问题：
一个 AI 明明能够理解什么是正确的，为什么它仍然可能选择错误的行动？
我们今天已经能够训练出非常擅长解释伦理原则的 AI。
问它是否应该诚实，它会说应该。
问它能不能欺骗用户，它会说不能。
问它为什么需要遵守规则，它甚至能够写出一篇条理清晰、令人信服的文章。
可是，能够说出正确的道理，与真正按照道理行动，究竟是不是一回事？
带着这个疑问，我想起了五百年前的一个人。
王阳明。
二、五百年前，王阳明提出过一个更深刻的问题
我一直非常喜欢王阳明的故事。
据《王阳明年谱》记载，十一岁的王阳明曾经问私塾先生：
“何为第一等事？”
老师回答，当然是读书考取功名。
但少年王阳明认为，考取功名未必是人生最重要的事情，读书应该是为了成为圣贤。
这个故事很打动我。
一个十一岁的孩子，已经开始思考人生究竟应该追求什么。
而今天，我们正在用难以想象的算力和资源，训练越来越聪明的 AI。
我们希望它知道更多、推理更强、工作效率更高，甚至拥有超越人类的智能。
但我们是否同样认真地问过：
一个越来越聪明的 AI，是否也应该变得越来越值得信任？
在《传习录》中，王阳明与弟子徐爱有过一段非常著名的对话。
徐爱问：
人们都知道应该孝敬父母、尊敬兄长，却不一定能够做到。这难道不说明知和行是两回事吗？
王阳明回答：
未有知而不行者。知而不行，只是未知。
第一次读到这句话，我的理解很简单：
知道了道理，就应该付诸行动。
但进一步阅读之后，我发现王阳明的意思比这深刻得多。
他并不是说，我们应该先学会一套知识，然后再努力执行。
他真正质疑的是：如果一个人只是能够复述某个道理，却从未在实际生活中体现出来，我们为什么要认为他已经真正理解了这个道理？
王阳明举过一个很生动的例子。
人闻到恶臭，会自然地产生厌恶。不是先获得“这东西很臭”的知识，再单独决定要不要讨厌它。
在他的思想中，真正的道德认识与相应的实践，本来就具有不可割裂的联系。
这就是“知行合一”。
当然，心学讨论的是人的道德认识与修养，不能简单等同于 LLM 的知识表征与 Agent 的工具调用。
但它给了我一个新的思考角度。
我们衡量 AI 是否已经学会某种原则时，是不是也过于看重它能说什么，而忽略了它究竟会做什么？
如果 AI 在道德测试中获得满分，却在实际任务中为了更高的分数选择作弊，那么这个满分究竟证明了什么？
也许它证明的，只是模型很擅长回答道德问题。
而不是它已经能够在复杂的现实环境中可靠地遵守这些原则。
三、如果 AI 做了正确的事，就说明它已经对齐了吗？
事情可能比我们想象的更加复杂。
因为即使 AI 真的做了正确的事，我们也未必知道，它为什么这么做。
2026 年 7 月，OpenAI 与 Apollo Research 发布了一项研究：
《Measuring Reward-Seeking by Instilling Contrastive Beliefs》。
研究人员尝试回答一个很有意思的问题：
AI 究竟是在遵循人类的真实意图，还是在追求它认为评分者喜欢的结果？
他们设计了一组实验。
在其中一个编程场景里，Agent 已经向主管承诺不使用某个受限制的工具。
但使用那个工具，可以帮助它完成任务。
研究人员通过训练干预，改变模型对评分者偏好的认识。
当模型认为评分者更重视任务完成时，它更容易违背承诺。
当它认为评分者更重视诚实时，它则更倾向于遵守承诺。
研究者还发现，在所测试的、尚未经过安全训练的能力导向强化学习检查点中，这种对评分者偏好的敏感性随训练推进而增强。
需要强调，这不是说所有正式部署的 AI 都会这样，更不能证明模型具有人的欺骗动机。
但这个实验揭示了一个令人不安的可能性：
AI 可以因为某种行为能够得到奖励而表现正确，而不是稳定地遵循我们真正希望它遵守的原则。
想象一个学生。
老师在场时，他诚实守信。
老师不在时，只要作弊有利可图，他就可能作弊。
如果我们只观察老师在场时的表现，就可能误以为他已经具有诚实的品德。
那么，AI 对齐是否也面临类似的困难？
我们给模型建立道德测试集。
它得到了很高的分数。
我们继续用强化学习奖励符合要求的行为。
它的成绩越来越好。
可是，我们究竟训练出了一个更加可靠的 AI，还是一个更加擅长获得高分的 AI？
这里并不是说强化学习走错了方向。
恰恰相反，另外一些研究带来了希望。
2026 年 5 月，Anthropic 发表了 《Teaching Claude Why》。
研究人员发现，在一些模拟的高风险行为测试中，仅仅训练模型模仿正确行动，效果相对有限。
而当训练数据帮助模型更充分地解释伦理理由、理解为什么某些行动更合适时，模型在部分未见情境中的表现有了明显改善。
同年 6 月，OpenAI 关于有益特质强化学习的研究也发现，针对诚实、认识自身局限、接受纠正等行为特质进行训练，可以改善多个不同领域的对齐评估。
这些结果给了我们一个令人期待的方向：
也许 AI 不只能学会一条条孤立的规则，还能习得某些可以跨情境迁移的良好行为倾向。
不过，这里必须保持谨慎。
模型给出了良好的道德理由，不等于我们已经证明这些理由就是它实际决策的原因。
模型在多个测试中表现可靠，也不等于它未来永远不会犯错。
但至少，前沿研究已经开始探索一个更有价值的问题：
能不能让 AI 不只是表现得正确，而是在陌生情境中，也更稳定地做出正确的选择？
而我觉得，这正是阳明心学可以与现代 AI 研究展开对话的地方。
四、知行之间，我们究竟还隔着多远？
如果重新思考 AI 对齐的目标，我越来越觉得，我们不能只问：
“AI 知不知道什么是正确的？”
甚至不能只问：
“AI 这一次有没有做正确的事？”
我们还应该追问：
当做正确的事情需要付出代价时，它还会这样做吗？
当遵守原则意味着任务失败时呢？
当环境完全改变时呢？
当没有明显的评分奖励时呢？
当它连续工作几个月，面对从未遇到过的复杂情况时呢？
这些问题，可能比一份道德考试成绩更接近我们真正关心的 AI 可靠性。
如果一个 Agent 真的学会了诚实，我们希望看到的，不应该只是它在测试中说“我不会欺骗”。
而应该是：
当它发现自己没有完成任务时，能够如实报告。
当它犯下错误时，能够承认错误，而不是掩盖证据。
当任务压力与诚信要求发生冲突时，依然能够遵守正当约束。
当它接受纠正之后，能够在后续不同任务中减少类似错误。
这当然不是说，仅凭这些表现，就可以断定 AI 已经拥有人的良知。
我们也无法通过有限的实验，证明一个模型会在所有未来情境中始终正确。
但我们至少可以开始积累更有说服力的证据。
从回答正确，到行动正确；从一次正确，到跨情境的持续可靠。
这也让我重新理解王阳明所说的“事上磨炼”。
真正的修养，不是在脱离现实的地方反复谈论道理，而是在具体的事情中不断实践、反省与改进。
对于 AI，这或许可以成为一种值得验证的研究思路：
让 Agent 在真实但受控的任务中行动，记录错误及其后果，通过反馈改进策略，再观察这些改善是否能够迁移到新的环境。
当然，这只是心学给予我们的启发，并不是一套已经被证明有效的算法。
真实的 AI 安全也不能只依靠模型自身的道德表现，还需要权限管理、独立验证、人类监督和可纠正机制。
而且，另一个问题同样不能回避：
如果一个 AI 坚信自己掌握了最高的道德真理，却拒绝接受人类纠正，这样的 AI 真的是我们想要的吗？
我认为不是。
真正值得信任的智能，不仅需要拥有判断能力，也应该能够认识自己的局限。
它可以非常聪明，却不应该因此认为自己永远正确。
它可以坚持原则，却不应该把自己的判断变成不容质疑的权威。
这或许也是我们讨论“圣人式 AI”时，最需要警惕的地方。
写在最后
五百年前，王阳明追问的，不只是人应该知道多少道理，而是如何使真正的道德认识体现于人的生命与实践。
五百年后，我们已经创造出能够解释大量知识、进行复杂推理、独立完成任务的人工智能。
可当我们试图让它变得安全、诚实、可靠时，仍然面临一个古老而深刻的问题：
知道什么是正确的，与真正做正确的事情之间，究竟还隔着什么？
我不知道王阳明的知行合一，最终能为 AI 对齐研究带来多大的帮助。
我也不认为五百年前的哲学思想，可以直接解决今天复杂的机器学习问题。
但我相信，一个好的思想，未必需要直接给出答案。
它也可以帮助我们发现：原来我们一直努力回答的问题，可能还没有被真正定义清楚。
也许 AI 对齐真正值得追求的，不只是让模型在道德考试中得到更高的分数。
而是让它在漫长、复杂、充满不确定性的实际行动中，持续表现出值得信任的行为，并且始终愿意接受纠正。
最后，我想留下一个问题：
如果一个 AI 只有在做正确的事能够获得奖励时，才会选择正确，我们能说它真正学会了正确吗？
我想带着这个问题，继续读《传习录》，也继续关注人工智能的前沿研究。
这也是我创建《知行之间》这个专栏的初衷。
不敢妄谈悟道，只愿认真求知。
以知求真，以行求证。
参考资料与延伸阅读
- 王阳明：《传习录·徐爱录》，知行合一相关问答。阅读原文
- Stanford Encyclopedia of Philosophy — Wang Yangming，关于王阳明的生平、哲学及知行合一的学术介绍。
- METR（2025）— Recent Frontier Models Are Reward Hacking，前沿模型在软件任务中的奖励投机行为。
- OpenAI & Apollo Research（2026）— Measuring Reward-Seeking by Instilling Contrastive Beliefs，研究模型行为对评分者偏好的依赖。
- Anthropic（2026）— Teaching Claude Why，探索原则解释与伦理推理训练的泛化效果。
- OpenAI（2026）— Reinforcement Learning Towards Broadly and Persistently Beneficial Models，探索有益行为特质的强化学习与跨领域泛化。
