与牛津大学合作未来系列：网络安全、新兴技术和系统性风险I N S I G H T R E P O R T没有 2 0 2 0 2未来系列：网络安全、新兴技术和系统性风险与牛津大学合作未来系列：网络安全、新兴技术和系统性风险未来系列报告是世界经济论坛和牛津大学的联合项目。它旨在召集一系列专家在该领域讨论和研究由关键新兴技术引起的问题。该计划涉及采访、研讨会和研究，这是该系列的最终成果。本报告是与牛津大学全球网络安全能力中心 (GCSCC) 及其研究赞助商 AXIS Capital 合作编写的。世界经济论坛要感谢牛津大学和网络安全中心社区，包括其创始合作伙伴埃森哲、帕洛阿尔托网络、Sber 银行、Fortinet、沙特阿美和 Salesforce 对该计划的贡献。 3未来系列：网络安全、新兴技术和系统性风险内容前言4执行摘要5第 1章第 2章第 3章网络空间动态9关键系统 12风险和挑战无处不在的连接18网络空间的动态正在发生变化10隐藏的网络弹性 13赤字无处不在的连通性产生的相互依赖19新技术带来10五项新挑战 15系统性风险21重大机遇四变身11技术第 4 章成长中智力27自主机器移动攻击者 - 28后卫平衡挑战和30保护数字生态系统第 5 章量子32种族33破碎的密码学34和更广泛的风险挑战和36需要采取的行动挑战和23需要采取的行动第 6 章数字38身份异构 39全球范围内的方法数字 40 的安全风险身份系统© 2020 世界经济论坛。版权所有。不得以任何形式或通过任何方式（包括影印和录制）或通过任何信息存储和检索系统复制或传播本出版物的任何部分。需要采取的行动挑战和需要采取的行动42结论44附录：致谢48贡献者50尾注51 4未来系列：网络安全、新兴技术和系统性风险前言自网络安全首次出现在《全球风险报告》中不到十年的时间里，它已成为全球经济最重要的系统性问题之一。全球集体支出现已达到每年 1450 亿美元，预计到 2035 年将超过 1 万亿美元。未来系列：2025 年网络在 2019 年世界经济论坛网络安全年会上推出，旨在回答一个问题：面对近期发生的主要技术趋势，我们管理网络风险的个人和集体方法是否可持续？该计划汇集了超过100 位来自企业、政府、学术界和民间社会的顶尖专家。通过一系列在研讨会和结构化访谈中，参与者研究了四种将改变全球数字环境的技术未来 5-10 年：无处不在的连接；人工智能（AI）；量子计算；和下一代身份管理方法。这些相互作用支撑了这里提出的研究，它提供了对我们未来面临的挑战的见解。这项工作得出的结论是，虽然在提高整个网络安全方面取得了进展生态系统，我们对技术趋势的前瞻性观察所显示的复杂性、速度、规模和相互依赖性的增加将压倒许多人当前的防御。如果现在不进行干预，就很难保持对未来全球增长所依赖的新兴技术的完整性和信任。本报告中提出的建议是影响深远，需要技术专家、行业领导者和国际社会的共同努力。回报将是巨大的。这些技术将改变我们的世界——但前提是他们是安全的，我们可以让我们的公民和企业相信他们是安全的。萨迪·克里斯牛津大学计算机科学系网络安全教授杰米桑德斯牛津大学牛津马丁学院研究员路易丝·阿克森牛津大学网络安全研究助理威廉狄克逊未来网络和技术主管 5未来系列：网络安全、新兴技术和系统性风险执行摘要我们对技术趋势的前瞻性展望显示了复杂性、速度、规模和相互依存性的增加。新兴的技术环境将压倒当前部署的许多风险缓解措施。如果现在不进行干预，就很难保持对未来全球增长所依赖的新兴技术的完整性和信任。我们的分析表明：结论 1系统性风险新兴技术环境中存在固有的隐性和系统性风险，这将需要国际和安全界对网络安全的反应做出重大改变。需要政策干预来激励企业和政府的合作和问责制。结论 2能力差距当前的运营网络安全方法存在差距需要解决。防御不断变化的威胁需要新的网络安全工具，以及了解如何在全球系统中快速有效地部署这些新解决方案。需要解决与新技术使用相关的攻击面。需要在技术和服务提供方面激励更高标准的护理的政策。结论 3领导行动业务领导者需要能够针对新出现的风险进行更具战略性的规划，这样他们才能确保提供最关键基础设施的组织不会遭受对社会造成灾难性影响的故障。 6未来系列：网络安全、新兴技术和系统性风险管理组织内的网络风险已经是一项重大的领导挑战。企业的成本正在增加——建立和维护网络安全能力的成本很高，而且投资回报率很高是不确定的。与网络威胁相关的风险通常是不透明的，很难校准网络安全投资的正确性质和规模。监管要求不断增加，而且在不同司法管辖区之间往往存在差异，解决网络安全问题的不同方法有可能成为跨境数据流动和电子商务。当前供应链网络安全保证的方法被打破：由于需要提供安全证明而引入了摩擦，这不一定能提供所需的保证水平，从而将资源从更有效的网络安全能力投资中转移出来。社区在解决问题方面的持续失败加剧了这些挑战在源头。许多事件是由少数网络犯罪集团造成的，他们的行为所面临的后果有限。仍然缺乏可信的威慑力。现在必须在网络安全方法上进行范式转变。企业领导者需要考虑确保位于日益复杂的技术环境之上的相互关联的业务和社会流程的完整性和弹性——而不是网络安全仅仅是保护系统和网络的问题。组织需要及时了解新技术将如何影响其面临的网络风险，并确保采取必要的缓解措施将风险控制在可容忍和可持续的范围内等级。确保组织具有执行此操作的可见性和洞察力是一项重大挑战。然而，仅在单个企业层面采取行动不足以应对报告中确定的一系列复杂的全生态系统挑战。未来系列的结论是，新出现的网络安全风险不会是当前挑战的简单延续，渐进式进展不足以应对这些挑战。技术环境变化的性质是，会出现越来越多的系统性风险，为此需要采取新的集体行动：•一、安全与技术社区需要优先考虑一些干预措施，以改善对网络安全运营至关重要的集体反应，以及有效控制商业和关键国家基础设施内的网络风险。这些在下面描述。•其次，行业和政府领导层需要推动一系列政策行动，以激励采用安全解决方案，并巩固更大的信任和透明度生态系统不同组成部分之间：澄清责任问题；减少当前保证和监管模型中的摩擦；和促进数据和数字服务的国际商业和贸易。•最后，国际社会需要采取干预措施，以确保解决安全问题的方式使新兴技术的好处具有包容性，特别是考虑到发展中国家的需求和集体努力减少跨境网络犯罪的必要性.该分析考虑了四种具有代表性的变革性技术，这些技术将有助于改变网络空间的动态：无处不在的连接性；人工智能（AI）；量子计算；和下一代身份和访问管理方法。我们并不是说这是定义未来的一整套技术创新，也不是说它们说明了所面临的所有风险。然而，所选择的技术具有足够的代表性，足以说明社区在未来 5-10 年内可能面临的风险范围。以下是建议的关键干预措施，以解决系统性问题并在不久的将来实现网络风险管理。如果这些集体行动无法推进，全球社会可能会创建一个无法抵御新兴威胁格局的生态系统，而网络安全可能会成为障碍释放技术和网络空间的全部潜力。 安全和技术社区社区需要合作，以确定在防御性运营能力方面出现的新差距，并设计、开发和提供有效的解决方案：1. 面对日益复杂的技术环境，需要开发新模型和丰富的信息共享框架，以提供态势感知并促进实时和自动化防御。这些需要跨越国界和整个供应链有效，承认不同的国家安全和监管制度，并且必须尊重个人隐私。2.需要开发安全原则和工具来保护人工智能和先进的机器学习资产，同时保护正在处理个人数据的个人的隐私。3. 社区需要召开会议来开发量子计算的安全模型，其中包括算法的完整性以及将量子安全集成到混合计算环境中。除了依赖计算复杂性的其他安全功能（可能受到量子计算的威胁）之外，还需要采取行动来确定生态系统的哪些部分单独和集体依赖密码学。这将需要紧急行动，既要确定风险的系统性以及管理风险。4. 需要召集安全和业务专家来确定量子密码学问题将如何影响端到端分布式业务流程以及谁应该负责降低风险。需要开发劳动力的能力，以确保可以在整个生态系统中提供新的作战防御方法。5.需要审查和加强现有的网络安全技能和教育计划，以确保它们反映新兴技术的影响。这些需要在全球范围内提供。技术和安全社区需要推广有助于确保整个企业功能的互操作性的安全标准，不仅包括技术标准，还包括监管标准。这适用于所有系统，但由于其异构和分布式特性，在数字身份环境中最为紧迫，以及确保整个系统的信任和隐私的需要。6. 需要下一代数字身份系统的全球互操作性信任标准，以便能够跨异构系统和司法管辖区投射受信任的身份和个人隐私，以支持贸易。行业和政府领导企业领导层需要新的教育、指导和治理工具来解决与使用相关的安全影响和风险组织内和更广泛的运营环境中的新兴技术。这对于使领导人能够促进增加和有意义的安全议程至关重要，并确保制定解决方案以保护组织并更好地为发生重大事件的领导者做好准备。7.企业领导者需要工具来决定如何最好地为新出现的风险做准备。提高事件及其影响的透明度将改善领导者的集体反应。企业和供应链相互依存关系的日益纠缠——以及日益增长的监管和相关安全认证流程——正在迫切需要提供一种机制来确保可信赖和可靠未来系列：网络安全、新兴技术和系统风险7 组织网络安全行为，以增强对生态系统不同组成部分的信心。这在对基础设施的共享依赖日益增加的领域最为紧迫，例如主要云和共享服务提供者。这将需要确定激励模式和干预措施中的差距以解决这些问题。8.为了使治理具有成本效益和意义，需要新的和国际适用的安全证明方法。护理标准模型将需要开发以支持这一点并巩固对供应链的普遍信心。9.企业需要与监管机构和政策制定者合作，考虑并推广明确的责任和责任模型。这些需要能够跨国际运作边界以支持贸易并减少不必要的摩擦。10.法规和证明需要反映底层技术和风险环境的动态实时性。国际社会国际社会需要制定政策干预措施，以确保能够实现全球包容性的网络安全能力水平。能力需要跨越网络安全的所有方面，使网络安全不成为战略障碍更广泛地采用技术及其对全球经济的潜在变革价值。能力要求包括需要保持一支熟练的劳动力队伍，并确保获得更复杂的网络防御能力。11.各国需要合作以提供公平的网络安全能力。应制定框架来确定国家网络安全能力以应对新出现的风险，并采取政策干预措施确保可以对这种能力进行战略投资。一个新兴的技术风险登记册将有助于这一过程。需要显着加强针对已知网络犯罪集团的集体行动，并设计干预措施以弥合集体调查中的差距，以促进对网络空间中的恶意行为采取更强大的威慑模型。12.应更加重视背后的威胁行为者的归因和破坏网络犯罪。这需要加强国家、国际机构和提供基础设施的技术企业。13.应通过建立标准和有效促进法律、监管和运营措施来加强打击网络犯罪（以及对全球数字经济完整性的其他相关威胁）的国际能力和承诺。国家和国际关键基础设施的不同组成部分之间的跨境和跨部门相互依存度越来越高。14.需要采用国际一致的方法来识别关键的国家基础设施组成部分，以确保不隐藏跨境风险聚合，并正确识别和准备网络空间中的系统性风险。15.国际专业贸易机构应培养识别其部门和会员社区的新兴技术风险的能力。未来系列：网络安全、新兴技术和系统风险8 9未来系列：网络安全、新兴技术和系统性风险网络空间动力学01 10未来系列：网络安全、新兴技术和系统性风险网络空间的动态正在发生变化我们今天创建的数字系统的性质代表了与过去技术的重大演变——我们可以设计具有明确范围和功能的系统。我们的未来将看到一个以技术为基础的网络空间，这些技术共同构成一个创新平台，结构、组件、关系和流程不断变化，以支持新出现的想法、服务和业务需求。因此，网络空间的基本动态正在发生变化：规模：随着新的连接设备、网络、服务和数据的出现，网络空间正在迅速发展。这不仅带来了网络规模的变化，还带来了数据量、存储容量、处理系统和我们共同创建的知识空间的变化。对于大多数人来说，网络空间的规模已经难以概念化。速度：通信和数据处理可以以越来越快的速度进行，这可以加快业务交易和流程、关系创建、内容和想法的发布和共享以及价值的产生。步伐的变化如此之大，这可能意味