前言：随着生成式人工智能的发展，真实内容与合成内容已经很难进行分离，电话诈骗，深度合成的语音的内容犯罪逐渐上升，应不应该采取限制措施，以防止形成合成信息滥用，对社会造成混乱。笔者引用IEEE对美国政策的分析文章进行分析：人工智能让坏演员太容易制造现实的、有针对性的骗局。
在1月23日，在美国的民主党新罕布什尔州总统大选的初选中，潜在选民开始接到假总统拜登的人工智能生成的音频电话，敦促他们在11月大选之前不要投票。在斯洛伐克，一篇Facebook帖子包含一名总统候选人计划窃取选举的虚假人工智能生成的音频——这可能使选举对另一位候选人有利。印度尼西亚和台湾最近的选举也受到人工智能产生的错误信息的破坏。
为了回应美国新罕布什尔州的假拜登机器人电话。美国联邦通信委员会于2月8日采取行动，使机器人电话中人工智能生成的声音成为非法。但有专家不相信此举就足够了，生成性人工智能为旧的机器人电话诈骗带来了新的转折，并为欺骗个人提供了加速的机会。
根据TrueCaller的数据，2022年美国诈骗和垃圾邮件的损失总额被认为为395亿美元，TrueCaller制造了呼叫者ID和垃圾邮件阻止应用程序。根据提供呼叫保护和身份服务的公司Hiya的调查，同年，美国被骗者的平均损失金额为431.26美元。Hiya说，随着生成人工智能的使用获得吸引力，这一数量将会增加。
弗吉尼亚理工大学联邦网络倡议研究主任Eric Burger说：“总的来说，通过机器人电话欺诈会产生的损失令人难以置信。”
JONATHAN NELSON，HIYA
人工智能将使骗子更容易瞄准个人
Hiya产品管理总监Jonathan Nelson说：“生成性人工智能最大的恐惧是，它会产生量身定制的骗局，并将其纳入主流。”他说，特别是，生成式人工智能将更容易进行鱼叉钓鱼攻击。
各国在电话诈骗的平均损失
一般来说，网络钓鱼攻击旨在诱骗人们放弃个人信息，如密码和财务信息。然而，鱼叉钓鱼更有针对性：骗子确切地知道他们的目标是谁，他们希望通过更量身定制的方法获得更大的报酬。Nelson说，现在，有了生成式人工智能，骗子可以抓取社交媒体网站，起草文本，甚至克隆一个可信的声音，骗取毫无戒心的个人的钱。 随着美国联邦通信委员会一致投票，使机器人电话中的生成式人工智能成为非法，问题自然而然地转向了执法。这就是IEEE Spectrum与之交谈的专家普遍怀疑的地方，尽管许多人也认为这是必要的第一步。“这是一个有用的步骤，”布伦南中心选举和政府项目主任Daniel Weiner说，“但这不是一个完整的解决方案。”Weiner说，鉴于联邦通信委员会的权力范围，联邦通信委员会很难采取更广泛的监管方法，就像欧盟对深度伪造的普遍禁止一样。
从2017年到2019年担任联邦通信委员会首席技术官的Burger表示，只有当该机构开始更广泛地执行对机器人电话的禁令时，该机构的投票才会最终产生影响。自1991年该机构颁布《电话消费者保护法》以来，大多数类型的机器人电话都被禁止。（有一些例外，例如来自牙医办公室的预先录制的消息，例如，提醒您即将到来的预约。）
Burger说：“执法似乎没有发生。”“政客们喜欢说，'我们正在追捕坏人'，但他们不喜欢——不是我们希望看到的状态。”
自动化在线执法工具可能不足以对抗人工智能
识别机器人呼叫来源并因此防止不良行为者继续进行呼叫的关键方法是通过复杂的电信基础设施网络跟踪呼叫，并识别呼叫的源点。回溯曾经是复杂的事务，因为一个呼叫通常穿越由AT&T和T-Mobile等多个网络运营商维护的基础设施。然而，在2020年，联邦通信委员会批准了一项任务，要求网络运营商开始实施一项名为STIR/SHAKEN的协议，该协议除其他反机器人呼叫措施外，该协议将使一步回溯成为可能。
Burger说：“一步的追溯已经得到了证实。”例如，Traceback确定了针对新罕布什尔州选民的假拜登电话的来源，这是一家总部位于德克萨斯州的名为Life Corporation的公司。伯格说，问题在于联邦通信委员会，美国联邦调查局和州机构没有提供资源来追查大量非法机器人电话操作。从历史上看，联邦通信委员会只追捕了最大的肇事者。
“无法阻止这些电话，”Hiya的Nelson说——至少不是完全的。“我们的工作不是阻止他们，而是让他们无利可图。”Hiya和类似公司一样，旨在通过保护服务来减少成功欺诈的数量，包括显示电话的地点和是谁创建的，以减少个人首先接听电话的可能性。
然而，Nelson担心，生成式人工智能将使进入的门坎如此之低，以至于这些预防措施将不那么有效。例如，今天的骗局仍然几乎总是需要将受害者转移到呼叫中心的实时代理处，才能成功结束骗局。有了人工智能生成的声音，诈骗运营商最终可以完全切断呼叫中心。
ERIC BURGER，弗吉尼亚理工大学
Nelson还担心，随着生成式人工智能的升级，人们甚至更难认识到他们一开始就没有与真人交谈。Nelson说：“这就是我们将开始失去立足点的地方。”“我们可能会增加电话接收者，他们根本没有意识到这是一个骗局。”例如，将自己定位为假慈善机构的骗子可以在捐赠者没有意识到实际发生的事情的情况下成功寻求“捐款”。
Nelson说：“我认为我们无法理解电话体验会因此而改变的速度有多快。”
另一个更复杂的执法问题是，美国的大多数非法机器人电话都来自该国境外。例如，The Industry Traceback Group发现，在2021年，所有此类电话中有65%是国际来源。
Burger指出，联邦通信委员会已采取措施打击国际机器人电话。该机构使其他运营商能够拒绝传递来自ISP的流量，ISP是将国内基础设施连接到国际基础设施的网络运营商的术语，这些网络运营商是发起诈骗电话。例如，2023年12月，联邦通信委员会命令Solid Double和CallWin两家公司停止传输非法机器人电话，否则将面临其他运营商被要求拒绝其流量的风险。
ERIC BURGER，弗吉尼亚理工大学
联邦通信委员会最近针对机器人呼叫中生成式人工智能的行动是同类行动中的第一次，其他国家的监管机构是否会效仿还有待观察。Weiner说：“我当然认为联邦通信委员会正在其监管机构范围内迅速和大胆地采取行动，树立了一个好榜样。”然而，他还指出，联邦通信委员会在其他国家的同行最终可能会获得更全面的结果。
据Burger称，很难说联邦通信委员会的行动与其他监管机构相比将如何叠加。尽管FCC往往遥遥领先——例如检查共享——但它也经常落后，例如使用中频5G。
Nelson说，他预计在几年内对联邦通信委员会的决定进行修订，因为它目前阻止公司将生成式人工智能用于合法的商业实践。
联邦通信委员会的投票是否会产生任何真正的影响还有待观察。Burger指出，在像假拜登这样的电话中，拨打这些机器人电话并冒充总统已经是做为非法电话进行管制的，那么是否还会改变游戏规则。
“通过使其多重违法，这真的会吓倒那些想投机的人们吗？”Burger说。
