“在金融领域,没有记录的合规等同于违规。勤勉尽责型AI的第一要务,是学会‘记账’,记一份关于决策权力和知识边界的明细账。”
当金融AI的决策出现偏差时,监管问的第一个问题往往不是“算法错了什么”,而是“当时它知道什么?”
“AI投顾给出一个高风险的投资建议,结果客户亏损严重。”
“AI风控系统在某个时刻突然‘放松’了对异常交易的警报。”
“AI财富管理系统在客户风险偏好改变后,仍持续推荐不匹配的产品。”
当这些问题出现时,监管机构并不会首先质疑模型的数学公式或神经网络结构。他们提出的第一个问题往往简单而深刻:“在做出那个判断的瞬间,AI知道什么?”
01 监管的追问,AI的沉默
金融监管的本质,从来不是惩罚技术进步,而是保护市场秩序与投资者权益。在AI进入金融服务的每一个环节后,监管的逻辑并没有改变,只是焦点发生了转移。
传统金融机构面对监管询问时,能够提供完整的决策记录:会议纪要、研究报告、内部审批流程、沟通邮件,甚至电话录音。这些材料共同构成了一个可追溯、可审计、可解释的“决策链”。
AI系统呢?尤其是那些主流的大语言模型驱动的应用,它们往往是“无状态”的:每次对话都是独立的,每个回答都基于当前输入的即时计算,没有持续的记忆,没有跨时间的上下文继承,更没有对自己过往判断的“自我意识”。
监管机构问:“为什么在2024年3月15日上午10点23分,系统向客户A推荐了那只高波动性股票?”
传统投顾可以翻开笔记:“当时我们刚开完晨会,讨论过该公司的季报超预期,且客户在上周表达过对行业前景的乐观。”
典型的无状态(Stateless) AI只能回答:“根据当前输入的问题,模型基于训练数据中的模式生成了这个回答。” ——这是一句正确的废话,也是一句合规的噩梦。
02 无状态AI的合规致命伤
“无状态”AI的缺陷,在生产级应用中或许只是体验不佳,在金融领域却是系统性风险。这种风险主要体现在三个层面:
第一,决策依据的不可追溯性。金融监管的核心原则之一是“勤勉尽责”,要求服务提供者在决策时已获取并合理考虑了所有可得的重要信息。无状态AI无法证明自己在给出建议的“那个时刻”到底“知道”什么。它可能刚刚“忘记”了客户五分钟前说的风险厌恶倾向,也可能“不知道”一小时前发布的重大宏观经济数据。
第二,行为一致性的无法验证。监管要求金融服务在不同时间、对不同客户、在不同情境下,行为逻辑应当一致且公平。一个今天建议保守、明天又建议激进的AI,如果无法说明这两次判断所基于的信息差异,就构成了潜在的误导和不公平对待。
第三,持续监督的缺失。金融活动不是一次性的问答,而是跨越时间的持续服务关系。监管机构需要评估的是机构在整个服务期间是否履行了受托责任。无状态AI像是一个“金鱼脑”顾问,每次互动都从零开始,无法构建对客户、市场、自身承诺的持续认知,自然也无法证明自己是否在“持续尽责”。
03 怎么破?为AI记忆加上时间戳
要回答“当时知道什么”这个问题,AI需要一种能够精确记录“什么信息在什么时间被知道”的能力。这正是金融系统中“双时态”概念的用武之地。
“双时序”是指同时记录信息的有效时间和系统时间。
- 有效时间(Valid Time):信息在真实世界中成立的时间。例如,某公司的盈利预测在2024年1月1日至3月31日期间有效。
- 系统时间(Transaction Time):该信息被AI系统获取或认知的时间。例如,AI在2024年1月2日上午9点读到了这份预测。
当AI在3月15日做出投资判断时,双时态系统可以精确回溯:在那一刻,AI“知道”哪些市场数据(它们的有效时间包含3月15日,且系统时间在3月15日之前)、哪些客户信息、哪些内部研究结论。它也可以清晰显示,哪些信息是在决策之后才被获取的,因此不应作为当时判断的依据。
这种能力将AI从“瞬时应答机”升级为“有时序认知能力的责任主体”。它不再只是基于庞大的、静态的训练数据生成答案,而是能管理一个动态的、有时效性的、不断演化的“已知信息集合”。
04 如何向监管交出合格的“记忆答卷”
认知记忆架构(CMA)正是为了解决这一问题而生。它通过结构化的方式,为AI系统构建起可审计、可解释、可治理的记忆层,这不是一个单纯的 RAG 插件能提供的。
当监管询问时,CMA驱动的AI能够提供一份清晰的“认知审计轨迹”:
第一,情景记忆:能追溯与特定客户的所有历史互动。“在3月15日建议前,我与客户A有过5次沟通,他在3月10日明确表示‘不希望本金有大幅波动’。”
第二,语义记忆:能锁定决策时所依据的知识状态。“做出建议时,系统已整合了截至3月14日收盘的所有公开财报、以及3月15日晨会中分析师对行业的最新评级。”
第三,程序性记忆:能复现决策所遵循的规则与流程。“本次建议触发了‘成长型客户-中等风险-行业轮动’决策树,并经过了内部一致性检查与合规预筛。”
更重要的是,CMA允许机构主动设置记忆的治理规则:哪些信息必须被记住、记住多久、如何关联、在什么条件下被唤起或遗忘。这使得AI的记忆不再是黑箱,而是符合内控要求、可定制、可审计的合规资产。
微信公众号:Fiduciary AI,聚焦AI 在财富管理等金融服务中的应用,探讨如何让AI 勤勉尽责