AI 工程实践的思维转变:从确定性到概率性

4 阅读4分钟

在 AI 技术快速发展的今天,我们需要重新思考如何与这些智能系统协作。以下是我在 AI 实践中总结的核心认知和方法论。

一、思维范式的根本转变

必须假定 AI 本质上是不靠谱的——这不是悲观,而是清醒的认知。这要求我们完成一次思维范式的转变:从编写确定性的代码,转向驾驭概率性的结果。让 AI 自主思考与规划,真正解决用户问题。

这种转变意味着我们不再追求每一次都完美无误,而是要建立一套能够容错、能够持续优化的系统。传统软件工程追求的是“零缺陷”,而 AI 工程追求的是“可控的不确定性”。

二、重新定义目标:从完美到可控

我们的目标不是让模型永远答对,而是让系统始终不失控。这个目标的转变至关重要。具体来说,不追求绝对完美,而是追求整体任务成功率(Mean Success Rate)的上升。

核心手段是减少失败的“类型”,这是高 ROI 的选择。与其试图解决所有可能的错误,不如识别出最常见、最致命的几类失败模式,针对性地进行防御和优化。每消除一类系统性失败,就能显著提升整体的可靠性。

三、Context 与 Prompt:理解真正的上限

在 AI 应用开发中,有一个常被忽视的真相:Prompt 决定了下限,但 Context 决定了上限。

许多人把精力都放在打磨 Prompt 上,试图通过更精巧的提示词来提升效果。但实际上,Context 才是决定 AI 能力天花板的关键因素。Context 不是简单的信息拼接,而是构建高信噪比的数字环境。

一个好的 Context 应该像一个精心布置的工作台,所有必要的工具、材料、参考信息都触手可及,没有多余的干扰。AI 在这样的环境中,才能发挥出真正的潜力。

四、工程实践的务实哲学

在实际开发中,我们常常需要做一些“不够优雅”的补丁和变通方案(Workaround)。这时候需要记住:如果一个 Workaround 是管用的,且是以一种人类阅读友好、易于长期维护的方式加入系统的,那它就是合理的。

这也是工程演进的一部分。随着模型能力的提升,这些补丁未来可以被优雅地移除。不要为了追求理论上的完美而牺牲实际的可用性。工程的本质是在约束条件下做出最优选择,而不是在理想条件下追求完美。

永远不要在前期方案阶段偷懒节省时间。Plan 模式本质上是一种“人在回路”的产品设计哲学。前期多花时间思考架构、设计容错机制、规划迭代路径,能够在后期节省数倍的调试和返工时间。

五、人的新角色:从执行者到连接者

当某一天你可以向一个能解答一切的 AI 提问时,如果你却不知道该问什么——这将是最大的困境。问题比答案更重要。

我们的新角色是 Connector——帮助 AI 获取它无法触达的隐性世界。AI 可以处理海量的显性知识,但那些隐藏在经验中的直觉、在特定情境下的判断、在人际互动中的微妙信号,这些都需要人来提供。

这也引出了一个新的能力公式:经验 + 好奇心 = 核心壁垒

在 AI 时代,纯粹的知识储备不再是壁垒,因为 AI 可以记住更多。但经验带来的判断力,加上持续探索的好奇心,这种组合是 AI 无法替代的。经验让你知道什么是重要的,好奇心让你不断发现新的可能性。

结语

AI 工程不是传统软件工程的简单延伸,而是一个需要新思维、新方法的全新领域。接受不确定性,建立容错机制,关注系统性优化而非局部完美,构建高质量的 Context,保持人的判断力和好奇心——这些将是我们在 AI 时代持续创造价值的关键。

技术在变,但工程的本质不变:在约束中寻找最优解,在不确定中建立可控性,在复杂中创造简洁。