最近，埃隆·马斯克在社交媒体平台上转发了一段伪造的副总统卡玛拉·哈里斯竞选广告，引发了广泛关注和争议。该视频使用了哈里斯竞选广告中的图像，配上了经过数字处理后模仿哈里斯声音的画外音，传播了对这位可能的民主党候选人的负面评价。尽管这一视频以戏仿和讽刺的形式出现，但它揭示了生成式人工智能在政治选举中的潜在威胁，特别是在2024年大选前进一步加深选民对选举机构的不信任。
马斯克的这段视频通过模仿哈里斯的声音，宣称自己是“多元化人才的终极代表”，并且对管理国家“一无所知”。视频内容将拜登称为“深层国家傀儡”，引发了人们对视频真实性的质疑。然而，这段视频的观看次数超过1.3亿次，许多用户可能会被误导，认为其内容是真实的。
生成式人工智能和深度伪造技术的迅速发展，使得制作逼真的虚假视频变得更加容易和廉价。纽约大学布伦南司法中心的高级法律顾问梅克拉·潘迪塔拉特纳指出，随着生成式人工智能的普及，深度伪造的传播速度加快，制作复杂内容的成本降低。她警告说，深度伪造可能会加剧选民对选举过程的怀疑，特别是在信息环境极度两极分化的情况下。
华盛顿大学计算机科学名誉教授奥伦·埃齐奥尼认为，马斯克分享的深度伪造广告“肉眼看来”非常逼真。他指出，随着社交媒体成为许多美国人获取新闻的主要渠道，虚假信息与真实信息并存的现象愈发严重。埃齐奥尼还创立了TrueMedia.org，一个旨在提供免费的在线事实核查工具的非营利组织，以遏制深度伪造和虚假信息的泛滥。
生成式人工智能深度伪造技术不仅能够虚假描述候选人，还可能被用来制造虚假选举危机，从而进一步削弱公众对选举机构的信任。例如，斯洛伐克流传的一段虚假音频片段显示，一名候选人策划操纵选举并提高啤酒价格，显然意图误导选民。同样，在美国，利用拜登声音的深度伪造电话和视频也在选举期间频频出现。
为了减少深度伪造视频的负面影响，埃齐奥尼建议对经过人工智能处理的政治视频进行标记，使观众能够更明智地观看这些经过修改的媒体。此外，社交媒体平台也应制定明确的政策，禁止分享可能欺骗或混淆他人的误导性媒体。尽管X平台已经制定了相关政策，但对马斯克的转发视频尚未采取任何措施，这引发了用户的质疑。
随着2024年大选临近，生成式人工智能对选举的潜在影响将进一步增加。选民应保持警惕，通过权威信息来源获取准确的信息，并对引起情感反应的内容持批判态度。只有这样，我们才能在面对深度伪造和虚假信息的挑战时，保护选举的公正性和民主的健全性。
转载自OpenSNN订阅号：马斯克分享虚假哈里斯视频：AI已经可以操纵大选 (qq.com)
