深层假货对选举的影响

的影响 选举中的严重假货 正当的担忧还是仅仅是危言耸听？ FerdinandGehringer,Dr.ChristopherNehringandMateuszVaultabuz ›到目前为止，在德国和其他许多国家，深度伪造技术主要被用于欺诈和未经同意的色情内容，并未在选举过程或竞选活动中使用，但政治深度伪造的案例正在增多。 ›政治性质的深度伪造内容数量，包括直接针对选举的内容，已显著增加。 ›当前，实施深度伪造的主要趋势是用于诋毁政治对手，但也包括共识性的政治广告。 ›构建防范深度伪造负面影响的安全措施应包括旨在保护和增强信息及选举完整性和韧性的举措。 ›与普遍预期相反，深度伪造最令人担忧的后果似乎是其累积的心理和社会影响。 目录 越来越多的深度假货突发事件2 深层的难以捉摸的影响假货3 最大的威胁：不是单一的深度伪造，而是累积性的影响4 对的影响德国5 印记10 作者10 2024年可以象征性地称为超级选举年：全球约一半的人口将被召唤去投票。大约30个国家将举行总统选举，而其他国家则将举行议会选举，大约有20个国家。台湾和印度尼西亚已经举行了选举，印度、墨西哥和美国等世界上最大的民主国家也将举行选举。除了德国图林根州、萨克森州和勃兰登堡州的联邦州选举，2024年还将选举欧洲议会议员。 选举是社会共决的核心要素和参与式民主的基础。它们决定了权力分配的未来走向，并使公民能够就这一关键问题发表意见。现代技术的发展，包括生成式人工智能，为选举的完整性带来了新的挑战。这涉及深度伪造的操纵潜力。1被认为是民主面临威胁之一的现象。在公开社会中利用深度伪造干预意愿形成过程或影响选举结果的使用加剧，特别是在超级选举年，尤其重要。尤其是在全球信任信息、政治机构和进程不断侵蚀的情况下。 越来越多的深度假货事件 政治性质的深度伪造内容数量，包括直接针对选举的内容，显著增加。在2023年和2024年初，多次尝试利用深度伪造影响选举竞选进程。这与前几年孤立且协调较差的案例相比，是一个显著的变化。2目前，主要的趋势是利用深度伪造技术来诋毁政治对手，但也用于共识性的政治广告。重要的是，信息空间的特点和消费模式也在发生变化。3传播深度伪造的关键要素在于算法放大效应，这一效应使得有害内容能够迅速传播至接收者，降低了内容审核、辟谣及打击非法内容的可行性。 2024年美国总统大选期间，深度伪造技术被广泛应用于竞选活动。除了诋毁政治对手的传统案例外，还发生了一起非常令人不安的尝试，旨在降低新罕布什尔州2024年1月初选的投票率。一位政治顾问试图通过假扮乔·拜登的声音进行仿冒机器人电话，可能触及到5000至25000名潜在选民。尽管竞选结果和范围仍在调查中，但这一企图对选举诚信构成了严重威胁。4即使对结果的影响可能被管理在可接受范围内，这一过程也表明了人工智能背后潜力的易获取性。通过特定的信息，AI的应用能够在短时间内触及大量人群，其潜在影响力对每个人而言都触手可及。5 此外，斯洛伐克（2023年9月）和孟加拉国（2024年1月）的袭击事件应被视为特别重要，因为它们采用了策略性手段。在这两个案例中，在投票前夕，针对正在竞选选举的政治家传播了深度伪造的虚假信息材料。在斯洛伐克的案例中，有报道称其中一位候选人讨论过选举舞弊（音频深度伪造）。6。在孟加拉国，据称一名候选人宣布退出（视频深度伪造）7。无论实际效果如何，都要针对Chesney＆Citron定义的所谓决策检查站8在投票前的短暂时期内，这一举动可能意在测试未来是否可以采取类似策略，期间决策过程的中断可能导致因无法有效地澄清虚假信息而产生不可逆的后果。 在土耳其，总统选举的一位候选人因遭到诋毁性的色情材料，即所谓的深色情攻击而决定退出竞选（2023年5月）9. 在阿根廷（2023年10月），总统选举中的两位主要候选人均使用了深度伪造技术，不仅制作了各自的竞选海报，还产生了诋毁对手的各种材料。10在这种情况下，我们可以认识到基本政治广告活动的实施，同时也大规模地运用了记忆体战争（利用表情包进行虚假信息传播）这一手段。 在巴基斯坦，针对被监禁的伊姆兰·汗制作了深度伪造录音以动员其支持者。相反，他的反对者试图通过分发记录，显示汗劝阻公民参与选举的录音来消弭选民，这些录音在投票前（2024年1月）再次出现。11. 在印度尼西亚和印度，对主要政治角色进行了深度伪造，以广泛传播来提升他们的形象或吸引力。12因此，一些政治家开始演唱流行歌曲，在印度尼西亚，AI技术甚至让已故将军苏哈托复活，他的合成声音化身被用于进行政治广告活动（2024年2月）13. 这些仅是精选示例，深伪造技术与选举过程直接相关的情况已在波兰、保加利亚、台湾、赞比亚和法国等地出现。它们应当展示滥用和操纵的潜在影响。同时，深伪造技术被用于其他政治目的，这可能对未来选举过程产生后果。 深层假货的难以捉摸的影响 关于破坏民主选举的可能性问题，不应再探讨是否会发生，而应关注何时、如何以及影响程度。深度伪造技术已经对民主选举产生影响，但这种影响主要间接发生，并与信息空间和政治语境中的误导信息景观紧密相关。每一次后续的选举都可能成为深度伪造的目标，但其使用方法将取决于信息空间的具体特性和政治背景。攻击策略可能会基于探索特定弱点，包括强化认知偏见（例如，试图证实不利传闻）等手段。14或者针对那些特别能引起公众关注的话题（例如，在接受贿赂的同时宣传打击腐败的候选人）。 评估使用深度伪造影响选举的真实后果是困难的，尤其是衡量这一现象的规模及其影响。深度伪造属于虚假信息活动的一部分，因此也促进了信息混乱。这不仅涉及到直接的虚假信息攻击，还涉及到侵蚀公民信任、增加不确定性或扰乱媒体、信息及其载体的知识价值的长期后果。15. 在这种情况下，深层假货对选举的影响主要是心理和社会。16这并不意味着深度伪造无法直接攻击和破坏选举过程。在这方面，关键似乎在于针对上述决策关卡进行攻击。17，这可能已经是一本新的虚假信息手册的一部分。 理解深度伪造的后果需要构建一个方法论框架来评估其影响。特定形式材料的使用至关重要。已明确显示音频文件构成了更大的威胁，主要是由于其难以辨伪，尽管它们的说服力似乎仍被研究不足。 规模较小的选举（例如地方选举）可能同样敏感，因为利用高度个性化信息接触大量潜在选民的可能性增加，从而提高了操控的风险。候选人的能力也可能不如大型竞选活动参与者，后者得益于媒体的关注，因此在揭露深度伪造内容方面能力较弱。 区分深度伪造和假信息的后果极其困难。然而，缺乏适当的方法论框架以及实证验证的困难使得衡量深度伪造的真实影响变得困难重重。特别是当直接针对选举的活动可能与其他领域活动相辅相成时：深度伪造可能是假信息、军事欺骗或其它操纵尝试的一部分。18然而，从对2023年和早期2024年与选举相关的深度伪造分析来看，到目前为止，并没有产生许多观察者预期的效果。19仅在斯洛伐克和土耳其的选举期间两次情况中，深度伪造内容对选举本身产生了可量化的影响。但即便在那里，它们也没有决定选举结果。 最大的威胁：不是单一的深度伪造，而是累积效应 与普遍预期相反，深度伪造最令人担忧的后果似乎是其累积的心理和社会效应。首先，深度伪造并非旨在说服人们支持某位候选人或另一位候选人，而是为了分散注意力、扭曲事实、诽谤以及破坏。深度伪造用于负面竞选活动，并不一定鼓励人们为特定候选人或政党投票，而是可能促使人们不投票或者不为某个候选人或政党投票。只要具有明确且易于记忆的情绪信息，深度伪造不必特别令人信服或逼真即可有效达到目的。研究还表明，在这些情况下，“此内容由AI生成”的标签并不能阻止观众分享和相信它们。 其次（2），仅存在深度伪造和人工智能操纵技术这一事实就足以产生强大的破坏性现实影响。例如，在2019年，有关加蓬总统阿里·邦戈的视频消息可能是深度伪造且他已去世的消息，就足以引发该国军事政变。20但这两者都不是，而且在2023年秋季，以色列政府发布的哈马斯袭击以色列期间死亡儿童的照片被指控为深度伪造，这一指控足以完全扭曲和扰乱关于该袭击的在线讨论。21. 在研究中，这一现象被称为“说谎者的红利”，描述了声称某信息为深度伪造以达到分散注意力、扭曲事实或自我辩护的行为。22。它也可能被用于法庭诉讼，采取一种“深度虚假辩护”的形式23在2023年夏季，一名代表特斯拉在洛杉矶法院辩护，针对因自动驾驶计划导致致命事故而被指控的案件中，这位律师采用了这一策略，精心地对埃隆·马斯克所声称的言论的真实性及可信度提出了质疑和不信任。24如果一切都能成为深度伪造，那么总会有理由怀疑。这一逻辑及其政治误用已被证明是一种强大的武器。 第三点（3），声称某事是深度伪造可能影响事件和辩论，因为这种技术破坏了任何观众对信息的真实性和可信度的信任。研究表明，仅仅对深度伪造感到恐惧就足以达到这一目的，并增加接收者的不确定性水平。学者们将这一现象称为“知识末日”，即真实与虚假之间的界限模糊化。25德国、英国和美国的调查结果显示，超过70%的受访者表达了对深度伪造的担忧，而超过40%的美国受访者表示他们有被误导的感觉。26这些恐惧导致人们更频繁地质疑信息的真实性。 恐惧、不信任和不安定可能就是深度伪造最核心的影响。这些影响对于政治进程、政治沟通以及选举来说，具有强大的但难以量化的后果。在一个万物皆可被深度伪造的世界里，即便考虑到实际的深度伪造数量或质量，选举与信息的完整性都处于危险之中。 对德国的影响 到目前为止，在德国和其他许多国家，深度伪造技术主要被用于欺诈和未经同意的色情内容，并未在选举过程或竞选活动中使用，但政治深度伪造的案例正在增多。 2023年末出现的政治深度伪造最显著案例中，时任总理奥拉夫·朔尔茨出现在由左翼活动人士制作并发布的视频中，视频中他疑似呼吁官方禁止极右政党AfD。尽管官方进行了澄清，并且政府强烈要求删除该视频，但主流社交媒体平台直到三个月后接到法院命令才决定删除此视频。27 俄罗斯恶作剧者（疑似与政府有关联）在不确定的环境中，对德国政治家进行了多次深度伪造电话骚扰。在2023年，经济部长罗伯特·哈贝克与伪装成非洲政客的“俄国喜剧演员”通话超过四分钟。28 在所有政治参与者中，极右翼的政治家、活动人士和团体似乎最常使用AI图像和音频深伪造技术。极右翼“AfD”政客曾利用AI生成具有象征性和种族主义倾向的移民形象。29在示威活动中，反体制抗议者利用了诋毁德国最受欢迎电视新闻（“Tagesschau”）音频深度伪造内容，以此来进行反对。30面对大规模全国性的反种族主义示威活动，其政治家和其它支持者也会使用“深度伪造辩护”，错误地声称示威的照片是由AI生成的，以夸大抗议者的数量。31 自2023年末以来的农民抗议浪潮中，也使用了AI生成的图像。一些AI生成的图像仅具有象征意义，而另一些则旨在夸大抗议活动的规模。在特别引人注目的一个时刻，极右翼政治家和其他右翼激进分子试图捕捉抗议活动的本质，分享并评论了一张AI伪造的图片，显示埃菲尔铁塔前堆满了手榴弹。32 随着德国在2024年6月准备迎接欧洲选举、三个联邦州的地方选举以及2025年的全国选举，大多数政治参与者似乎仍在探索和测试深度伪造技术的使用。然而，重复发生成功的深度伪造攻击事件表明，传统的政治参与者仍然显得准备不足，对威胁缺乏充分认识，并且缺乏适当的应对机制。 深度假货：系统性威胁和必要措施 而非等待一个“变革时刻”的到来——即一个单独的深度伪造内容引发巨大混淆、单方面决定重要政治事件的情况——深度伪造应被视为累积性的、系统性的威胁。防范深度伪造负面影响的措施应包括旨在保护和增强信息、选举公正性以及韧性的举措。 政治和公共机构应制定并推出明确的防御和应对策略，以确保选举和信息的完整性。此外，专门机构应定期报告信息空间中各种媒体上的最新发展情况，并发布当前威胁、宣传活动以及深度伪造内容。与社会沟通当前的威胁和活动可以增加公众意识。 此外，政治和媒体参与者应阐述、公布，并严格