核心观点与关键数据
- 深度伪造技术滥用增加：2023年和2024年初，政治性质的深度伪造内容显著增加，主要趋势是用于诋毁政治对手，但也包括共识性的政治广告。关键案例包括美国总统大选中的假拜登电话、斯洛伐克和孟加拉国的选举干扰、土耳其的深色情攻击、阿根廷的竞选海报和记忆体战争、巴基斯坦的深度伪造录音等。
- 影响难以量化但心理社会效应显著：深度伪造对选举的影响主要间接发生，与信息空间和政治语境中的误导信息景观紧密相关。评估其真实后果困难，但研究表明其影响主要为心理和社会层面，而非直接决定选举结果。
- 累积效应是最大威胁：深度伪造最令人担忧的后果是其累积的心理和社会效应，包括分散注意力、扭曲事实、诽谤、破坏信任、增加不确定性等。深度伪造的“说谎者的红利”现象也加剧了信息混乱和认知偏见。
对德国的影响
- 政治深度伪造案例增多：德国政治深度伪造案例包括时任总理朔尔茨的深度伪造视频、俄罗斯恶作剧者对德国政治家的深度伪造电话骚扰、极右翼政客利用AI图像和音频进行宣传和反对活动、农民抗议浪潮中的AI生成图像等。
- 应对措施不足：大多数政治参与者仍在探索和测试深度伪造技术，但传统的政治参与者对威胁缺乏充分认识，缺乏适当的应对机制。
必要措施
- 制定防御和应对策略：政治和公共机构应制定并推出明确的防御和应对策略，以确保选举和信息的完整性。
- 加强媒体和AI特定的网络素养：提高意识提升和韧性，将适当的准备纳入学校课程。
- 规则与法规：通过“深度伪造响应小组”和专门资源来严格执行规则与法规，立法者还可能考虑发布额外的规定。
- 合作与公私伙伴关系：政治行为者、社交媒体公司、传统媒体和研究机构之间的合作可以提高公众意识、及时删除内容、消除内容的影响以及揭穿虚假信息。
- 加强深度假货检测方法：公共和私营部门必须共同努力，加强深度假货检测方法及其可用性。执法机构也应投资于适当的措施，并发展必要的数字能力以检测有害内容。
- 建立方法论框架：理解深度伪造的后果需要建立一个方法论框架来评估其影响，即使操纵使用深度伪造尚未决定一场选举，但深度伪造对选举及其进程的影响增加只是时间问题。
研究结论
深度伪造应被视为累积性的、系统性的威胁，而非等待一个“变革时刻”的到来。防范深度伪造负面影响的措施应包括旨在保护和增强信息、选举公正性以及韧性的举措。在像2024这样的超级选举年，是时候启动并实施必要的措施，以准备未来的选举。
