2024年“AI换脸”威胁研究与安全策略报告

目录一、“AI换脸”基于“深度伪造”技术......................................................................................................................................................31、“深度伪造”的构成.....................................................................................................................................................................3（1）人脸识别和关键点检测................................................................................................................................................3（2）图像/视频合成技术.......................................................................................................................................................3（3）生成对抗网络(GAN)......................................................................................................................................................3（4）增强效果技术................................................................................................................................................................42、“深度伪造”的危害.................................................................................................................................................................4（1）“换脸”视频和图像......................................................................................................................................................4（2）合成真人音频................................................................................................................................................................5（3）伪造文本信息................................................................................................................................................................6二、常见的“深度伪造”欺诈类型............................................................................................................................................................81、伪造账号造谣传谣.......................................................................................................................................................................82、冒充熟人进行诈骗.......................................................................................................................................................................83、伪造身份申请银行贷款...............................................................................................................................................................94、让“网络钓鱼”更加难以识别...................................................................................................................................................95、冒充他人远程面试入职...............................................................................................................................................................96、冒名登录盗走银行余额.............................................................................................................................................................11三、“深度伪造”的产业链....................................................................................................................................................................121、“深度伪造”欺诈的过程...........................................................................................................................................................122、“深度伪造”欺诈上游：虚假图文与视频的制作....................................................................................................................133、“深度伪造”欺诈下游：多个平台多个方式实施诈骗............................................................................................................15四、识别检测“深度伪造”的音视频......................................................................................................................................................171、人的行为与生物识别.................................................................................................................................................................172、设备与操作识别.........................................................................................................................................................................173、技术识别与取证.........................................................................................................................................................................184、社交防范与公众教育.................................................................................................................................................................19五、对抗“AI换脸”欺诈的安全策略......................................................................................................................................................191、社交媒体场景下的安全策略.....................................................................................................................................................192、银行信贷场景下的安全策略.....................................................................................................................................................21六、国家监管与相关法律法规.....................................................................................................