学术合作赋能cvc5安全验证

0 阅读5分钟

学术合作如何为某机构客户带来真实世界的安全保障

2018年7月16日,某机构杰出科学家Byron Cook在牛津大学举行的联邦逻辑会议上发表主题演讲。该会议是自1996年以来每四年举办一次的计算机逻辑学术盛会。

Byron Cook:关于某机构云服务形式化推理的安全性探讨

在主题演讲中,Cook介绍了他所在的团队如何使用名为cvc(合作有效性检查器)的开源软件工具来识别代码中的逻辑问题并进行修复。斯坦福大学教授Clark Barrett当时坐在听众席中,他从事cvc相关研究已近20年。

cvc的开发初衷是分析以可满足性模理论问题形式编码的验证问题。SMT是形式化方法(即使用自动化推理证明程序或系统将按预期运行)的支柱技术。通过大规模应用SMT,cvc能够检测代码以及认证和访问管理等系统中的逻辑错误。

Barrett表示:“我当时有些震惊,这非常令人兴奋。这一切始于那个激动人心的时刻——意识到我们的工作正被某机构使用。”

Cook与Barrett的这次会面最终促成了长达数年的研究合作,Barrett于2023年成为某机构的学术学者。最初,某机构通过某研究资助项目向Barrett在斯坦福大学工程学院的实验室提供了小额资助;随着研究的推进,资助规模逐步扩大。这些资金支持了基础研究,结合双方团队深入的技术协作,促成了最新版开源软件cvc5的开发。

cvc5为某机构客户及整个行业带来了显著价值,同时也推动了学术研究。例如,cvc5被用于某云服务中一项名为“自动化推理检查”的新功能,该功能可根据组织策略验证自然语言内容。它还支持访问策略分析工具,包括身份与访问管理访问分析器(一项帮助客户安全管理对某云资源访问的服务)。最近,某机构开始在Kiro(一个新的智能体开发环境)中部署cvc5,用于规范分析和测试生成。在这些应用中,cvc5每天处理约十亿次求解器调用,为某云客户增强了安全性、可靠性和持久性。

学术合作如何为某机构客户带来真实世界的安全保障

思想碰撞

与Barrett合作该项目的还有Robert Jones,他是某云的高级首席应用科学家,与Clark在斯坦福攻读博士期间曾有共同的导师。多年来,许多学生和博士后也参与了该项目,他们渴望验证自身能力。其中不少人后来加入了某机构,负责开发新的实现方案和应用,延续了他们作为学生研究员时就开始的工作。

Jones说:“有趣之处在于,例如刚完成博士学业的人,往往会为长期存在的研究挑战带来全新的见解,因为他们思考问题的方式不同。我发现合作中最美妙的部分在于,不同的人往往会对同一个问题构建不同的心智模型。当这些模型碰撞时,你往往会对如何思考该问题或如何将其映射到另一个你已经知道如何解决的问题获得新的洞察。”

学术研究与商业资助的成功结合能产生巨大影响,但正如Barrett所指出的,必须聚焦于可实现的目标。Barrett说,人们很容易沉迷于一个有趣的项目想法,最终却陷入实践死胡同。

“如果你待在象牙塔里构建工具,却接触不到真实问题,就很容易造出错误的工具。我确实犯过这个错误,”他说。“你造了一把锤子,然后到处找钉子,却找不到完全匹配的。你会对某种特定方法感到兴奋,却不思考这种方法能用来解决什么问题。所以现在我更喜欢反过来:先找到一个真实问题,然后退后一步问自己,‘我们究竟能用什么方法来解决它?’”

他说,当你修改代码时,“80%的情况下效果会变好,20%的情况下效果会变差。在某些情境下,这其实并不理想。”他补充道,区分优劣对于生成健壮且可扩展的代码至关重要,需要进行大规模测试来发现并修复代码变更过程中可能无意引入的问题。

Jones表示,在如此层面分析交互需要多颗大脑的参与,而且越多越好。“众人拾柴火焰高”这句老话在融合公共研究和实际应用时尤为贴切。

“我非常喜欢解决需要多人协作才能攻克的难题。我享受科学研究中的合作,”他说。“我一直认为,越多头脑共同解决同一个问题,效果就越好。”

Barrett和Jones一致认为,这项工作的关键在于愿意从学术和商业两个视角看待问题。有时纯粹的研究目标能带来非常有益的成果,有时则不然,但将这两种方法结合起来解决重大问题可以带来巨大的收益。

两人都认同,沟通是关键。

Jones说:“学术界面临的困难之一是,知道哪些问题最重要、值得研究,以及这些问题会如何影响工业界遇到的实际问题。能够更开放地讨论我们正在努力解决的问题,同时Clark向我们介绍他的研究议程,这对双方都有帮助。这使某机构能够指明感兴趣的领域,也有助于Clark理解我们在日常尝试实际应用这些工具和技术时遇到的具体问题。”

研究领域

自动化推理

标签

学术合作, 某云服务FINISHED