OpenAI CEO 警告人工智能可能导致欺诈危机，Stytch CEO 则认为现有身份验证方法仍有效，如设备验证。虽然人工智能可能使网络钓鱼更复杂，但也能用于增强安全性，例如通过分析浏览器指纹来识别恶意流量。人工智能驱动的欺诈将带来重大变化，但长期来看，人工智能也可能构建更安全的网络层。
译自：Can AI 'Defeat' Authentication? Depends on Who You Ask
作者：David Cassel
上个月，OpenAI 首席执行官 Sam Altman 在美国联邦储备委员会发表讲话时，警告说存在“欺诈危机”，因为人工智能很快就能欺骗大多数应用程序中内置的身份验证方法。
正如 CNN 报道的那样，Altman 说：“让我感到恐惧的一件事是，显然仍有一些金融机构接受声纹作为身份验证，让你转移大量资金或做其他事情——你说一句挑战短语，他们就直接做了。” CNN 报道。“这仍然是一件疯狂的事情……除了密码之外，人工智能已经完全击败了人们目前使用的大多数身份验证方式。”
但是，如果像 Altman 声称的那样，人工智能已经“击败”了身份验证，那么身份验证平台 Stytch 的 CEO/联合创始人对此表示不同意。
在一次新的采访中，Stytch 的 Reed McGinley-Stempel 告诉我们，目前身份验证领域哪些方法有效（哪些无效）。是的，如果历史趋势重演，人工智能可能会给不良行为者一些新工具——但这只是第一阶段。
因此，尽管 Altman 预测会出现“即将到来的重大欺诈危机”，但这个故事还有另一面。他们的 CEO 表示，人工智能还在“底层”帮助 Stytch 加强了他们的身份验证解决方案——甚至有一天可能会让防御者占据上风。
最坏的和最好的
OpenAI 的 CEO 首先警告说，一些金融机构仍然使用声纹进行身份验证，尽管研究人员发现了 绕过它的方法。Stytch 的 CEO 表示：“我完全同意。这是目前最糟糕的身份验证方法之一。”（人工智能已经可以生成逼真的深度伪造——那么微调一个人的声音样本，以绕过语音安全系统有多难？）
但他不同意 Altman 的说法，即“除了密码之外，人工智能已经完全击败了人们目前使用的大多数身份验证方式……”举例来说，一种常见的身份验证方式是使用“你拥有的东西”——就像金融网站提供记住你的设备一样。即使人工智能可以模仿你的声音或复制你的面部——伪造你设备 IP 地址和存储的 cookie 的唯一签名也会困难得多。这尤其有用，因为大多数欺诈行为都发生在远程在线。
“人工智能将无法击败这一点……”McGinley-Stempel 说。无论人工智能工具变得多么强大，“仅使用当前技术，你仍然可以控制的一件事……就是你可以决定，‘这个身份验证是否来自之前注册的同一设备？’”然后将它与生物识别密钥配对——无论是绑定到你的设备，还是仅仅同步到你的 iCloud 帐户。即使在我们资源有限的世界中，“老实说，这对公司来说也很容易做到。”
密码会保护你吗？
McGinley-Stempel 在另一个方面对 Altman 的言论提出异议。“我不同意他的观点，即密码是最后的伟大希望——它们不是。”这并不是说人工智能也具有推断你的密码的超能力。但是“我看到的问题是，网络钓鱼活动变得越来越复杂。”
网络安全公司 Darktrace 发现了 ChatGPT 出现的一个意想不到的副作用：网络钓鱼电子邮件突然开始变得更好。它们更长、语言更复杂，而且更具说服力。McGinley-Stempel 指出，像语法错误和常见的英语错误这样的明显信号将会减少。
但是人工智能以其他方式帮助攻击者。“我们看到的另一件事是，比以往任何时候都更多的网络钓鱼网站不得不被撤下——因为任何人都可以进行氛围编程，创建一个假的‘美国银行’登陆页面！”不仅仅是网络钓鱼网站为了获取密码或手机上的验证码——还有人工智能生成的电子邮件和短信。甚至有 新闻 报道 使用人工智能语音克隆工具的虚假语音通话。
Stytch 主要致力于身份验证解决方案，因此 McGinley-Stempel 承认，他对其他参与者如何保护我们政府标准身份识别没有很好的了解。尽管“如果人们开始创建伪造的出生证明、护照、许可证——我相信政府会在某个时候赶上。但我不知道这需要多长时间。”
当欺诈变得大众化时……
更广泛地说，McGinley-Stempel 表示，人工智能驱动的欺诈将带来重大变化。“它使编码大众化，因此也使滥用大众化。”（虽然很难说欺诈行为者的数量会增加 10 倍还是 100 倍，但投资回报率显而易见，尤其是在对针对其他国家人民的欺诈者“低执法”的国家/地区。）
“我确实认为这种高潮将会到来，”他说，尽管“我不知道这会在下个月还是明年……”但他担心 ChatGPT-5 的发布 可能会带来“巨大的变化”。
安全问题是人们倾向于推迟处理的问题，直到发生重大事件“传遍新闻界……然后实际上才会发生改变”。无论是政府机构还是需要安全的公司，“我觉得我们正处于欺诈危机曲线的一部分，实际上很多人都看到了它的到来——但很多人也真的很忙于他们正在做的其他事情。”McGinley-Stempel 说，他们可能正在做“在某种程度上有所帮助”的事情，但“他们可能只是没有解决最终的风险。”
这是许多新技术的普遍原则。“通常，我们发现欺诈者采用新技术的速度比合法用户更快……而防御者最终通常会将其稳定在足够好的状态，一切都还好……之后会有一种平衡。”
他担心的是第一阶段。当欺诈者采用当今最先进的工具时会发生什么，以及“人工智能正在赋予他们超能力——它正在扩大谁可以成为欺诈行为者。”
即使那样——历史的平行会随着人工智能重演吗？“我不知道会发生什么，”McGinley-Stempel 承认，但人工智能“感觉像是一种不同的野兽。”
为了说明这一点，想象一下我们终于开发出通用人工智能的情景——而且欺诈者使用它的速度比防御者更快。有可能“即使防御者赶上了——你知道，一年后，六个月后——在某些事情发生非常非常糟糕的情况下，仍然有很大的损害空间。”
人工智能对抗人工智能？
但这并不全是坏事。“人工智能将引发一场欺诈危机，但它也将消除人们生活中的许多乏味，”McGinley-Stempel 说。“我们拥有的一个工具允许最终用户对人工智能代理进行身份验证，以代表他们进行操作……就像好的、经过批准的人工智能代理！”
有趣的是，Stytch 实际上 正在使用 机器学习来帮助抵御不需要的人工智能代理（以及提供 LLM 的抓取机器人）。
Stytch 的身份验证平台一直很容易构建“真正安全但又低摩擦的注册和登录体验”。（这包括支持 Google 密码和 Apple 的 Face ID 和 Touch ID 等常见标准。）但除此之外，还有他们的额外机器人缓解技术，McGinley-Stempel 说，“这有助于我们对进入我们客户网站的每条流量进行指纹识别——告诉你这是否是你之前见过的同一设备。如果是新设备，这是人吗？这是人工智能代理吗？它是好的代理还是坏的代理，或者它只是一个普通的机器人，比如脚本机器人……？我们在设备上收集数百个信号，当它被隐形指纹识别时。”
但他们现在正在使用每种主要 Web 浏览器的每个版本（追溯到几十年）来训练他们的模型——“在真实用户将在这些浏览器上运行的最广泛的可能模拟设备集上”。实际上，这为每个版本的每个浏览器创建了“经过验证的集合——确切的指纹配置文件是什么样的？”这使 Stych 能够自动发现与其“经过验证的证据”的任何可疑“漂移”。
简而言之，McGinley-Stempel 说，“人工智能和机器学习帮助我们为互联网上的流量构建更好的‘测谎仪’测试。”
虽然其他一些公司可能正在使用机器学习来进行诸如验证 CAPTCHA 响应之类的操作，“但我没有听说有人在浏览器端做我们正在做的事情。我们正在引入机器学习和人工智能……来确定真实与虚假的浏览器！”
McGinley-Stempel 称之为在“底层”使用人工智能……
安全性与成本
McGinley-Stempel 认为，这不是我们是否拥有身份验证技术的问题。“我担心的是，对于每个应用程序和网站来说，它是否总是 足够便宜 以保持安全。”公司必须计算他们的安全预算——毕竟，有些网站不会像其他网站那样受到“强烈攻击……”McGinley-Stempel 承认。“这几乎就像你为自己的风险承保。如果你算错了，你仍然会在新闻中看到漏洞之类的……”
与此同时，攻击者也在计算他们估计的投资回报率。因此，在这两个计算的中间，“因为它很昂贵，如果他们想让我们使用人工智能来不断防御人工智能——它将变得像一个博弈论问题。”
但 Stytch 的 CEO 仍然对未来抱有一些希望。
有一个笑话的结尾是“我不需要比熊跑得快。我只需要比 另一个人 从熊那里跑得快。”McGinley-Stempel 说，这就是许多公司对安全的看法——希望其他人最终成为更容易的目标。“实际上，一直都是这样。”
但是我们是否正处于更好的开端？一旦我们对人工智能驱动的攻击者进行了调整，“如果我们愿意投资，从理论上讲，人工智能在防御方面为我们提供了 无限的 人工时——来研究问题。来研究，比如，暗网论坛，人们通常在其中谈论他们如何欺骗不同的网站和不同的人。”
因此，“我认为这是有可能的，”Stytch 的 CEO 在展望未来时说道。“虽然我不知道我们是否绝对会做到，但我们有可能在未来几年内在互联网上构建一个更加安全的层。
“即使我们在最初的 6 到 12 个月内面临一场膨胀的欺诈危机…… ”
简而言之，人工智能可以提供我们所需的所有资源——以低廉的价格和大规模的方式——最终构建一个经过身份验证且对每个人都安全的世界。
一个 人们 最终都能跑过熊的世界。
