构建AI知识库不应只关注“应该做”，更应强调“不应该做”。通过整合负面案例、决策树和知识图谱，AI系统能有效规避危险，处理复杂情境和例外。这使得AI代理更可靠、智能，并具备上下文推理能力，从而懂得何时说“不”，建立值得信赖的智能系统。
译自：Focus on ‘Don’ts’ to build systems that know when to say ‘No’
作者：AJ Sunder
如果你的AI知识库只列出政策，那么你的组织只发挥了一半的机构智能。
内部知识库对于AI代理至关重要，它作为组织记忆，使响应基于经过验证的公司数据，并降低幻觉公司特定信息的风险。没有它，代理会根据其训练数据生成听起来合理但可能不正确的响应，从而填补知识空白。
知识库的内容应力求与资深员工的思维工具包中的内容相对应，并为机器消费而结构化——使AI代理能够获取机构智慧，从批准的供应商列表到升级程序。
然而，在用政策和程序构建这些知识库时，你的组织可能忽视了一个关键要素。将知识库从优秀提升到卓越的不是“应该做”；而是“不应该做”。
使用负面案例避免灾难
将负面案例整合到知识库中对于语境、风险降低和代理之间的一致性至关重要。没有负面案例，你的知识库就像一个只被教导了所有规则，却没有被告知任何潜在陷阱的初级员工。
例如，一个正面指令可能说：“在24小时内回应。”相比之下，一个负面指令可能是：“不要直接回应媒体问询。”前者提高了响应的质量，而后者则有可能防止声誉危机。当然，编码“不应该做”需要周密的范围界定。对一个角色而言是禁区的内容，对另一个角色可能就是强制性的。
这些“不应该做”很重要，因为它们堵塞了危险的即兴发挥途径，确保AI不会偏离到捏造事实或引用等行为。没有负面规则，AI可以自由地犯下经验丰富的员工绝不会冒险犯的错误。
一些组织通过将知识库与决策逻辑层相结合，进一步发展，不仅指导代理检索什么，还指导它们根据置信水平如何行为。
绘制道路上的分岔口
政策和禁令只能达到一定的程度；事实上，资深员工与初级员工的区别在于他们能够在规则冲突时运用判断力。要将这种智慧引入AI系统，你的知识库需要情境决策树。
想象一个代理面临退款请求。一个设计良好的决策树不仅教会代理政策内容，还教会如何处理例外情况。它何时应自动批准退款？何时应升级给人工经理？何时应拒绝请求？编码这些路径使代理能够处理边缘情况，而无需即兴发挥——或者更糟，产生幻觉。这些机制将“不应该做”转化为不可逾越的护栏，防止恶意行为并增强对系统的信任。
最好的知识库是动态的行为手册，即使在模糊、高风险的情况下也是如此。当代理遇到新情况时，人类可以扩展决策树，为系统添加新的分支，使其随着时间的推移变得更智能。这就是组织如何将其AI系统从死记硬背发展到接近经验丰富的员工的情境推理能力。
从扁平文件到活态图谱
如果可靠性是目标——而且它应该是——那么扁平文本是远远不够的。传统的文档存储库缺乏捕获条件逻辑、关系和异常的能力。复杂的AI代理需要多模态知识图谱，这些图谱既能保存事实，又能保存关系和异常。
图谱表示实体、关系和依赖，使AI能够进行情境推理，而不是鹦鹉学舌地重复记忆的规则。考虑一个静态政策页面，它指示：“我们的服务级别协议是24小时。”将其与一个图谱进行比较，该图谱指示：“此SLA仅适用于企业客户，维护窗口期间除外，除非由客户经理升级。”如果没有这种程度的细微差别和结构，代理将不得不自行解释异常情况。
这在金融服务或医疗保健等高风险行业中尤为重要，在这些行业中，这些图谱可以将敏感用户数据与监管要求和其他保护措施连接起来，以确保AI决策的准确性和安全性。毫不奇怪，知识图谱正成为先进组织的黄金标准。
最智能的系统懂得何时说“不”
最好的知识库不只是告诉AI该说什么；它们还限制不该说什么，并编码如何在情境中思考。在AI竞赛中领先的组织将是那些较少关注堆积文档，而更多关注构建更智能数据的组织：负面案例、决策逻辑和反映真实世界判断复杂性的关系图谱。
一流的知识库可以成为一个活的机构智能系统，使代理安全、可靠和值得信赖，因为它们知道该做什么，以及绝不该做什么。
