电信网络诈骗治理与人工智能应用白皮书 （2019年） 中国信息通信研究院安全研究所 2019年12月 版权声明 本白皮书版权属于中国信息通信研究院安全研究所，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院安全研究所”。违反上述声明者，本单位将追究其相关法律责任。 前 言 近年来，我国电信网络诈骗活动猖獗，已成为影响人民群众安全感和幸福感的一大社会公害。根据党中央、国务院对防范治理电信网络诈骗工作有关指示要求以及工业和信息化部系列工作部署，信息通信行业相关单位和企业在工信部网安局指导下，紧跟反诈新形势新要求，不断创新思路举措，将人工智能等新技术广泛应用于防范治理技术能力建设中，取得了阶段性的明显效果。以“众智护网”2019年度防范治理电信网络诈骗创新示范项目评选为例，从入选项目情况看，基础电信企业、互联网企业、安全领域专业技术厂商等信息通信行业企业单位均开展了基于人工智能的技术防范体系研究、开发和建设工作，涵盖了网络侧、业务侧、用户侧等多方面的电信网络诈骗治理需求，并取得了良好的治理成效和社会效益。 技术创新是一把双刃剑，人工智能技术在不断促进防范治理技术发展和进步的同时，也开始被诈骗分子所利用，带来了一定程度的风险隐患。特别是随着基于人工智能的“深度伪造”、群聊群控等诈骗手法的传播和应用，这些风险被进一步集聚、放大，引起了社会各界的关注。 本白皮书结合当前电信网络诈骗防范治理工作实践情况和人工智能技术的发展应用，系统梳理人工智能在治理工作中的积极影响及技术实践应用，同时剖析人工智能不当使用为治理工作带来的风险挑战，在总结国内外电信网络诈骗治理现状的基础上，深入分析当前人 工智能背景下治理工作的趋势走向和问题短板并研究提出对应的措施建议。 目录 一、人工智能在电信网络诈骗治理中的积极影响及技术实践 ..... 1 （一）人工智能在电信网络诈骗治理中的积极影响 .......... 1 （二）人工智能在电信网络诈骗治理中的技术应用 .......... 3 （三）人工智能在电信网络诈骗治理中的实践应用 .......... 6 二、人工智能给电信网络诈骗治理带来的风险与挑战 ........... 9 （一）电信网络诈骗实施的四个主要环节 ................. 10 （二）在“精准信息获取”环节 ......................... 10 （三）在“诈骗脚本设计”环节 ......................... 12 （四）在“通讯联络诱导”环节 ......................... 13 （五）在“资金支付转移”环节 ......................... 15 三、人工智能背景下国内外电信网络诈骗治理动态 ............ 15 （一）国际主要国家和地区治理经验做法 ................. 16 （二）国内信息通信行业主要治理举措与成效 ............. 19 四、人工智能背景下治理工作面临的难点与问题 .............. 26 （一）在法律法规方面 ................................. 26 （二）在行业管理方面 ................................. 27 （三）在技术利用方面 ................................. 27 （四）在宣传引导方面 ................................. 28 （五）在协同治理方面 ................................. 29 五、人工智能背景下电信网络诈骗治理的措施建议 ............ 29 （一） 明晰治理思路，坚持发展与安全并举 .............. 30 （二） 完善法律法规，加大执法与惩戒力度 .............. 31 （三） 强化行业监管，推进源头与综合治理 .............. 31 （四） 加快技术研发，提高识别与反制能力 .............. 32 （五） 创新宣传方式，增强防范与安全意识 .............. 33 （六） 促进协同治理，深化跨行业与跨国合作 ............ 34 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 1 一、人工智能在电信网络诈骗治理中的积极影响及技术实践 （一）人工智能在电信网络诈骗治理中的积极影响 随着云计算、大数据、移动互联网的不断发展，人工智能进入到了一个全新的发展阶段：基础算力不断增强，核心算法不断突破，应用场景不断丰富，成为引领创新发展的战略性技术。人工智能技术的蓬勃发展带来了强大的产业拉动效应，不断加速传统产业的数字化、智能化进程，驱动产业优化升级和生产力快速提升，在推进社会进步、经济发展、人民生活质量提高等方面产生了重大而深远的影响。 同时，人工智能技术的发展也为电信网络诈骗治理工作带来了积极影响：随着以大数据分析、机器学习、模式识别、知识图谱为代表的人工智能技术的部署应用，电信网络诈骗技术防范系统的识别准确度更高、监测拦截实时性更强、防护覆盖面更大，为治理工作的不断推进提供了强大动力，有效降低了电信网络诈骗带来的风险与危害。 1、防范识别准确度提高 对诈骗信息和行为的判定识别是防范治理技术工作的基础和前提。相比于人工判定方式，人工智能在诈骗识别方面的应用有效地提高了判定的准确度及可靠性。首先，通过人工智能技术可以对海量历史及实时数据进行多维度分析，挖掘不同数据间的内在联系，使得发现隐蔽诈骗线索和行为的能力快速提升。其次，通过对已有诈骗事件和数据的不断迭代学习，人工智能技术可以及时全面掌握各类诈骗活动的行为特征，从而准确识别具备相同和相似特特征的疑似诈骗信息 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 2 或行为。 2、监测拦截实时性加强 对电信网络诈骗行为进行实时预警拦截是防范治理工作的一个重要方面。利用人工智能技术通过对电信网、互联网、金融支付等各方数据的实时分析和深度计算，能够极大提升诈骗信息预警拦截的效率和及时性。从监测拦截角度看，现有人工智能技术可以实时监控疑似手机黑卡的诈骗流通轨迹，快速研判涉诈行为，实施对手机黑卡或涉诈号码的秒级溯源和分钟级关停等处置措施。从预警信息推送角度看，依托人工智能的强大算法和计算能力，可以针对疑似涉诈网站、APP的活动行为进行实时记录分析，并根据相关模型对疑似高危受害用户进行实时的预警提醒。 3、反诈防护覆盖面变大 随着基于人工智能的防范治理能力不断提升，反诈技术的防护范围得到极大扩展。从数据分析角度看，人工智能技术能够对海量电信和网络数据进行关联分析并提取有效信息，对疑似受害人群和疑似诈骗团伙的搜索查找覆盖范围大大增加。从通讯联络角度看，基于人工智能的防范治理技术覆盖到了网络侧、业务侧和用户终端侧等信息通信过程的各个环节，极大地提高了反诈安全防护的用户覆盖范围。从诈骗信息监测角度看，当前人工智能技术能够有效识别诈骗文本、图片、音视频等各类诈骗信息传播手段，内容监测范围得到明显拓展。 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 3 （二）人工智能在电信网络诈骗治理中的技术应用 1、基于大数据分析的技术应用 基于大数据分析的电信网络诈骗防范治理技术应用以数据挖掘分析结果为驱动，整个过程包括“数据采集、数据处理、数据挖掘”等多个环节。 在数据采集和处理层面，主要有三种数据来源：在企业自有系统中沉淀的数据、在网上采集爬取的数据和从第三方购买的数据。这些数据经过智能化处理清洗后为后续开展数据分析和挖掘，识别电信网络诈骗行为，构建完备的技术防范体系奠定了数据基础。 在数据挖掘层面，利用大数据的挖掘能力可以发现诈骗行为的典型规律，精准识别诈骗分子和诈骗行为，进而对电信网络诈骗进行准确预警。 图1 基于大数据分析的技术应用 2、基于机器学习算法的技术应用 基于机器学习算法的电信网络诈骗防范治理技术应用可以分为 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 4 分类和聚类两种应用形式。分类算法通过已知的诈骗样本、案例数据进行模型训练，在此基础上对新的行为事件进行涉诈风险分析预测。聚类算法通过全局分析和高维空间聚类，在无诈骗样本数据的情况下找出数据中隐含的共同特征，从而完成大规模关联诈骗团伙的自动发现。 通过机器学习两种算法的互相结合，可以有效提升发现识别诈骗行为和团伙的技术能力。以涉诈互联网社交账户识别发现为例，根据诈骗行为在多维空间向量上距离相近的特征，通过构建以登录时间、浏览器类型、IP地址、GPS地址、昵称修改等为特征的多维空间向量，利用聚类算法可以将疑似诈骗行为或账户聚为一组并抽取该群组的共性信息生成训练数据。基于聚类算法生产的训练数据，分类算法能够在此基础进行模型训练并进一步发现共性样本群组之外的诈骗行为和账户。两种算法相辅相成，为诈骗风险预警提供高效的检测和研判能力。 3、基于模式识别的技术应用 基于模式识别的电信网络诈骗防范治理技术聚焦已知诈骗行为的样本数据特征，通过分析归纳得到诈骗行为的多维度特征属性并形成涉诈资源模板库，结合自然语言处理、生物特征识别及大数据挖掘分析等技术，对目标对象进行相似度交叉比对分析，研判得出目标对象的涉诈风险，在诈骗电话、诈骗网站的判定识别领域有广泛应用。 以诈骗网址检测识别为例，在提取目标网址的标题、关键词及页面标签元素等多种特征属性的基础上，通过计算目标网址与诈骗资源 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 5 模板库中的网址样本之间的特征距离，判断两者之间的相似度。一般来讲，两者特征距离越近说明相似程度越大，目标网址涉嫌诈骗的可能性就越大。 图2 诈骗网址监测识别 4、基于知识图谱的技术应用 知识图谱是一种基于图的数据结构，可以看作是由数据绘制出来的一张知识图。在防范治理应用中，知识图谱技术能够聚合关联多种数据源，针对监测目标分析识别其脉络、趋势以及特征，在关键诈骗信息搜索、账号涉诈风险评估、诈骗团伙研判、异常行为分析等方面具有重要应用。 以银行卡全周期异常行为分析为例，通过知识图谱技术对全周期内的银行卡关联数据进行分析，并以图的方式进行数据融合及可视化，从而找到银行卡异常行为的内在关联，提升对诈骗资金流的打击效率。相比于人工核验，其效率提升10余倍，准确率约为99.5%。 电信网络诈骗治理与人工智能应用白皮书（2019年） 中国信息通信研究院 6 图3 基于知识图谱的银行卡异常行为分析 （三）人工智能在电信网络诈骗治理中的实践应用 结合电信网络诈骗治理实践，目前人工智能技术在诈骗电话检测、恶意网址拦截、诈骗文本识别、诈骗风险预警等场景下已经有深入的应用及探索。 1、诈骗电话检测 电话诈骗是电信网络诈骗中的突出类型，诈骗数量较多，诈骗内容花样层出不穷，社会影响恶劣。及时尽早地感知、发现诈骗电话，是减少此类电信网络诈骗活动损失必不可少的方法。由于诈骗分子掌握大量用于诈骗的号码，传统的基于