2024数字时代安全科技价值报告

中国社会科学院大学数字中国研究院Institute of Digital ChinaUniversity of Chinese Academy of Social Sciences数享时十安全科技价值报告中国社会科学院大学数字中国研究院2024年1月 摘要摘要D I G E S T本报告基于2023年全球数字社会的安全风险新形势和科技创新内在逻辑，对安全科技提出“伴生技术”的新定义，总结其具有的“压舱石”与“助燃剂”双重价值，并提出将安全科技视作新型公共产品的新思路。安全科技正处在时代的转折点。首先，数字化安全风险已经进入快迭代、高智能、全覆盖的新格局。根据意大利信息安全协会2022年发布的研究报告显示，2021年全球网络犯罪导致的损失估计约为6万亿美元，对工业4.0、车联网、交n通、医疗等领域均造成重大影响，且在上网人数上升和数字化加速的背景下仍呈持续上升趋势。与此同时，2023年，AI大模型安全风险凸显，全球各界一致关切，业界开始推出"大模型质检”类安全产品，成为推进大模型安全健康发展的路径之一。安全科技已从传统的网络安全技术发展成当前更为通用、包含多个领域、多种前沿技术的复杂系统性技术，维持着数字社会的稳定运转，帮助各行各业加快数字化转型。S本报告提出，人工智能和安全科技将会是未来的两项通用技术，应该以公共品的定位来判断安全科技的价值，推动其发展。政企合作是安全科技成为公共品的核心驱动力，通过更多的公共力量投入，构建更好的安全科技实力和制度，采用数字化转型的“慢起飞模型”，新的安全技术将得到更好的发展，个人与社会为数字化转型所付出的代价也将更小。 目录、前言AI大模型重构数字世界，安全问题质变时刻1、数字社会进入新阶段，面临全新风险挑战3（一）数字化安全风险新形势：快迭代、高智能、全覆盖3（二）AI安全风险的紧迫性陡增5（三）有新技术的地方，就有新的安全风险7三、安全科技的关键技术能力及双重价值10（一）安全科技是一种伴生技术10（二）安全科技的五大趋势：零化、弹性化、匿名化、量子化和智能化17（三）安全科技的双重价值在放大19四、未来：安全科技必将成为新型公共品33（一）“慢起飞模型”：安全科技是技术向善的集中体现33（二）政企合作是安全科技成为公共品的核心驱动力35(三) 结语38 前言AI大模型重构数字世界，安全问题质变时刻2022年，全球发生数据泄露事件4,518件，数据量达到226.2亿条（Flashp0int）。2021年，全球45%的数据泄露事件涉及个人数据（Verizon）。平均而言，只有5%的公司文件夹受到适当保护（VaronisSystems）。到2025年，全球网络犯罪每年造成的损失将达到10.5万亿美元。（Cyber securityVentures)全球约40%的人口目前处于离线状态，一旦联网，他们将很容易成为网络攻击的目标。（ Data Reportal)未来将会是深度数字化的。在过去二三十年的时间里，数字化已成为越来越清晰的现实。不仅仅互联网，几乎所有的行业都在数字化转型，这是由现代科技内在的逻辑所能带来的安全风险。当下，我们正站在安全风险的质变时刻。随着数字化的推进，新的深度智能开启。可谓深度智能？深度智能的核心是人工智能技术，在大数据的基础上，人工智能将数据建模，产生新的结论和应用，从而推开了“万物皆可智能”的大门。随着数据爆炸式增长、数字化基础架构错综复杂，网络攻击面的不断扩大，对应地安全风险也出现了新情况：此前，风险造成的影响是单点的。举个例子，如今，一辆汽车的网络安全问题都不再只影响这辆车本身，而可能影响整个城市交通；此前，数字化的地图上有一些区域是“不通行”的，如今，即使发电、供水等基础设施也深度数字化运行，风险在地图上更四通八达。2023年A大模型横空出世，大大推进了深度智能时代的到来，然而它对安全局面的影响同样可能是颠覆性的。最近引起全球关注的OpenAI公司因对Al安全的不同观点而导致的人员变动风波，很好地说明了业界对当前A安全高风险的态度，以及它在整个深度智能的社会中投下的令人不安的阴影。因此，站在深度数字化的转折时刻，对安全科技的关注与投入已刻不容缓。01数字时代安全科技价值报告 安全科技的价值，既体现为“压舱石”，更重要是作为“助燃剂”：压舱石指的是守住技术的安全底线，防御可能存在的风险隐患，支撑和保障数字社会的稳步运行；助燃剂是提高技术的安全上限，降低技术运行的成本，让新技术得以规模化落地，推动产业焕发新机，让更多人从中受益。活、国家组织的行为模式向数字化转型，风险也就相应地并轨转移。隐私数据泄露、商业勒索、基础设施瘫痪.........放眼未来，有新科技的地方，就会有新的数字化安全风险两者是本体和阴影一样不可分割的伴生关系。我们判断，未来通用的技术有两个，一是人工智能技术，二是安全科技。人工智能作为最具颠覆性和战略性的核心关键技术，将在各行各业数字化的基础上进一步实现智能化，成为未来生产力的发动机；安全科技将作为方向盘，始终将各种新兴科技控制在向善的道路上。安全与人工智能并举，双方的融合创新与发展，将是我国强国战略中不可忽视的重要助推因素。因此，这两个领域，应该成为我们最关注、投入最大的领域。过去，当人们提到安全科技时，想到的往往是防病毒软件和防火墙软件。但全球安全科技的版图和技术工具已远远超过这些。在网络安全、系统安全之外，还有数据安全、终端安全、人工智能安全、云安全等等，涉及众多技术门类，也包括了区块链、隐私计算、量子计算等前沿技术。在安全风险质变时刻的当下，提高社会对于安全科技的认知、重视与参与，非常有必要，这是本报告的核心议题另一方面，尽管安全科技行业已有了相当的发展，但仍存在多种迫切问题。尤其是缺乏明确的生态标准来加快前沿技术的规模化落地、缺乏合理的市场化机制，政企合作及生态联动方法来助推安全科技的发展等等。这也是本报告关注的关键问题。我们必须明确，未来，安全科技将成为社会的公共品，它不只是一套技术，也不是个业务、几段数据，而是这个社会里的每一个人，是技术真正造福于人类的可能性。我们也特别感谢中国社会科学院大学哲学院教授、中国社会科学院科学技术和社会研究中心主任段伟文，科技部“云计算+大数据”国家重点专项课题负责人、数秦科技执行总裁兼首席科学家崔伟，北京大学客座教授、蚂蚁集团首席技术安全官韦韬，浙江工业大学网络空间安全研究院院长宣琦等多位专家学者在本次调研中，提出了宝贵观点和建议。02数字时代安全科技价值报告 数字社会进入新阶段面临全新风险挑战（一）数字化安全风险新形势：快迭代、高智能、全覆盖数字化安全风险来自哪里？操作者的人为失误是其中一部分，更大的来源则是第三方攻击，也就是网络犯罪。网络犯罪，指滥用计算机或电信技术，对系统或信息进行攻击，破坏或利用网络进行其他犯罪的行为，包括常见的盗取和交易敏感信息、针对组织机构网络设施的攻击、网络霸凌、也包括利用暗网等技术手段销售毒品与人口贩运等。网络犯罪的规模目前有多大？根据联合国发展署《2022年特别报告》，2021年网络犯罪造成的损失估计约为6万亿美元，如果以国家来衡量，那么网络犯罪是继美国和中国之后的世界第三大经济体。同时，网络犯罪的规模自2020 年以来迅速上升，亚州成为全球受攻击最严重的地区，根据IBMX-Force《威胁情报指数（2022）》，亚洲在2021年遭受的攻击占全球攻击总数的 26%。在北京冬奥会期间，仅两个月时间受到的相关网络攻击共计3.8亿起。多数人可能会对此数据感到惊，我们的日常生活中似乎并无相匹配的感知。一方面，这是出于不同的统计口径，并非完全从用户体验到的纬度。另一方面，日常的感知依赖于可靠的记录和曝光。举一个例子，当2013年底发生了有记录以来最大规模的数据泄露事件时，直到2016年9月此事件才被报告（Lee 2016）。数字化安全风险的历史与信息技术的进步保持同步，并非最新的产物。它长久以来处于公众雷达之下，本质原因是在20世纪至21世纪初期，我国上网民众基数不高。事实上，在前互联网时代，就已经有了网络攻击，因为保护位于计算机内部的数据也属于网络安全的范畴。到了1987年，第一个防病毒软件产品出现。随着互联网的民用化程度提高，越来越多的人开始上网，网络犯罪便开始有利可图，于是20世纪90年代，网络安全风险爆发，早期那些炫技的个人黑客逐渐消失，黑客活动转向牟利驱动，形成了如今仍在不断壮大的网络犯罪产业。03数字时代安全科技价值报告 到21世纪初，在美国等互联网较早普及的国家，网络犯罪的规模、形式和恶性程度都达到了新的程度。例如在一次攻击事件中，黑客获得了超过 30亿用户的雅虎账户访问权限。在2002年1月，美国记录了第一起网络犯罪谋杀案，一位罪犯通过雇佣黑客入侵医院的计算机系统，改变了他的竞争对手病人的处方（Krausz ＆Walker，2013）。错误的处方最终导致一名病人死于一名无辜护士手中。近20年来，网络犯罪的规模、范围、严重程度和复杂性均呈指数级增长，且日益超越地理边界，极大地挑战了传统司法系统应对挑战的效力。2021年2月初，一名黑客远程访问了美国佛罗里达州一家水处理厂的计算机系统，试图将供水中的氢氧化钠含量增加到潜在的危险水平；2022年1月，当国际油价已创近7年新高时，因遭到勒索软件的攻击，荷兰与比利时的几处港口无法完成石油装卸和转运，多艘油轮无法靠港；2022年4月，保加利亚的国家邮政系统遭到网络攻击，导致柜台养老金发放业务被迫中断。能造成如此大的破坏，是因为网络犯罪如今是一个价值收入颇丰的“产业”，拥有机构化的管理结构和研发预算。攻击者能够使用人工智能等高级技术工具，并持续加快攻击生命周期，从侦察漏洞到发起攻击，仅需几天乃至几小时。这些例子清晰地表明，数字化安全风险已经进入到快迭代、高智能、全覆盖的新阶段。在这个全新阶段，对抗安全风险已经远远不是商业机构内部的IT工作，而关乎每个人的幸福指数和全社会的安全稳定。2021年1月，美国国务院批准设立新的网络空间安全和新兴技术局（CSET），3月，美国政府发布《国家安全战略临时指导方针》，将提施投入，保卫美国免受恶意网络活动侵害。我国在2021年通过了历史上第一部“国家安全战略”《国家安全战略（2021-2025年）》，强调加快提升生物安全、网络安全、数据安全、人工智能安全等领域的治理能力，将安全提升到国家战略层面，实现国家安全战略与国民经济和社会发展规划同步。04数字时代安全科技价值报告 数字化安全风险的发展趋势 近20年以来数字化安全风险指数级增长●全球网络犯罪呈指数级增长，且日益超越地理边界，电信网络诈骗形势严21世纪初期峻。攻击者使用人工智能等高级工具，网络犯罪规模达到新高大大缩短了攻击生命周期。数字化安●在互联网较早普及的国家，如美全风险进入到快迭代、高智能、全覆（20世纪90年代）国，网络犯罪的规模、形式和恶盖的新阶段。网络安全风险爆发（20世纪80年代）性程度达到新高。例如，在一次●随着互联网的民用化程度提高,黑客攻击事件中，超过30 亿用户第一个防病毒软件出现越来越多的人开始上网，黑客活的账户信息泄露2002年1月，美动转向全利驱动，网络犯罪产业国记录了第一起网络犯罪谋杀案，●在前互联网时代，就已经有了网络攻击，因为保护位于计算机内逐渐形成。但公众对此关注不高主要因为这一时期上网人数较少。部的数据也属于网络安全的范畴。到了1987年，第一个防病毒软件产品出现。（二）AI安全风险的紧迫性陡增在2022年底AI大模型横空出世后，全球业界迅速形成共识：AI安全风险陡增，这是全世界需要迅捷反应、共同面对的巨大挑战。人工智能安全的三大类别AI安全内生安全衍生安全外生安全●AI系统自身身技术特点、缺陷、脆●AI系统因其自身脆弱性被利用或不恰●面向人工智能系统的外部网络攻击与弱性而产生的安全问题。当使用，引发的危及其他领域的安全对抗。问题。●比如，攻击者利用人工智能技术突破●AI算法模型、数据、环境等任一环节社会安全都可能给系统引入脆弱性。其原有能力边界，给防御带来新挑战。.A系统因脆弱性被攻击