干预之旅：有效数字安全措施的实施路线图

深度报告 2025年3月 Getty Images 图片： 内容 3前言 引言执行摘要 绘制干预历程图 1 1.171.291.3101.4111.512身份识别设计实施反馈、度量与透明度。伙伴关系 2 干预案例研究 2.1提升游戏安全性：父母和监护人的工具包2.2保护年轻游戏玩家：定制的游戏解决方案2.3培养数字时代的信任：人工智能与素养的全面方法2.4青少年在线安全：保护和监管功能2.5应对CSEA风险：用于威慑和支持的聊天机器人2.6全球信号交换：打击网络诈骗和欺诈2.7跨平台行动：共同对抗在线CSEA 1416182022 3 干预类别 3.1技术干预3.2教育干预3.3政策相关干预措施3.4行为干预 中小企业挑战 4.1挑战4.2解决方案与考虑因素 5项建议 5.1采取积极主动和透明的做法。5.2一种尺寸并不适合所有5.3确保数字安全干预措施中的包容性5.4实施有效的报告和响应机制5.5用户教育及数字素养5.6准备应对新兴威胁5.7加强伙伴关系和多利益相关方合作 尾注贡献者结论 免责声明：本文件由世界经济论坛作为项目贡献之一发布，洞察 区域或交互作用。本报告中表述的发现、解释和结论是经过世界经济论坛促进和认可的协作过程的结果，但其结果并不一定代表世界经济论坛的观点，也不代表其所有成员、合作伙伴或其他利益相关者的整体观点。 2025 世界经济论坛。版权所有。本出版物任何部分不得被复印、传播或以任何形式或方式用于任何商业用途。版权所有，不得以任何形式或任何手段（包括影印和录音）或通过任何信息存储和检索系统进行复制或传输。 前言 Agustina Callegari项目负责人，全球数字安全联盟，世界经济论坛 亚当·希尔德里斯创始人，Crisp，Kroll 朱莉·英曼·格兰特eSafety专员，eSafety专员办公室，澳大利亚 丹尼尔·多布罗夫斯基世界经济论坛，治理与信任部门负责人 在当今日益科技驱动的世界中，确保安全嵌入到数字平台和系统的核心至关重要。《安全设计》方法确保平台优先考虑用户保护，防止伤害发生。无论规模大小，平台都有责任通过部署内容过滤算法、年龄验证机制和可访问的安全资源等工具来保护用户。随着人工智能（AI）在数字景观中变得越来越中心，在其开发和部署中优先考虑伦理和安全对于最大限度地减少意外后果至关重要。 我们的全球数字安全原则和在线危害类型学提供了基础性指南和共同语言，适用于所有利益相关者。《有效衡量数字安全效果报告》有助于识别风险，而《数字安全风险评估框架》概述了数字安全指标的分类。 这份最新报告，《干预之旅：有效数字安全措施的路线图》，为开发有效的数字安全干预措施以应对网络危害提供了指导。它涵盖了整个生命周期——从识别风险到设计、实施和评估有效的安全措施。此外，它还包括了现实世界的案例研究和各种类型干预措施的实例。通过遵循安全设计原则并纳入最佳实践，该报告指导所有规模的公司，使他们能够积极主动地管理与其数字平台相关的风险。 全球数字安全联盟认识到网络危害日益复杂，范围从儿童性虐待材料（CSAM）的生产和传播到隐私侵犯、仇恨言论和虚假信息。我们的策略不是孤立地处理每个挑战或风险，而是开发一套相互关联的资源。 数字安全需要集体努力，通过与政府、行业和民间社会的合作，该联盟旨在制定全球相关且本地可适应的解决方案。 每个联盟生产的工具都互补其他工具，为政策制定者、行业领袖、民间社会和学者创建了一个全球政策工具包。 执行摘要 干预旅程提供了一步一步解决网络伤害的指南，确保数字环境中的安全。 随着组织和社会的数字化程度不断提高，以及数字危害的日益普遍，通过有效的数字安全干预措施来应对这些风险变得愈发紧迫。本报告可以提供对挑战和机遇的更清晰理解，并帮助组织识别有效的策略，培养合作与资源共享，最终为所有用户营造一个更安全的数字环境。 执行计划：执行 3 :策略与解决方案、吸引利益相关者、提供培训并监控过程 反馈、测量和透明度4 收集和分析用户及利益相关者的反馈，以评估有效性和影响，同时传达发现结果 坚持干预旅程确保定义目标、探索解决方案、评估结果、平衡成本、整合安全措施以及评估有效性的结构化方法。与合作伙伴合作可以帮助组织避免陷阱并更有效地解决问题。通过与关键利益相关者的开放互动和最佳实践、解决方案以及技术的分享，合作伙伴关系可以显著增强干预措施的影响。 本报告关于干预旅程的探讨，基于《数字安全设计干预工具包》的工作流程，紧接2023年报告之后 工具包：数字安全设计干预和创新的类型学：在线危害分类该旅程旨在协助组织在数字安全的复杂领域中导航，并实施有效且安全的方法，无论其规模大小。通过评估各种干预案例研究，报告旨在提供最佳实践，以识别风险、选择潜在干预措施以及收集和分析这些干预措施的反馈。 认识到并非所有组织，尤其是中小企业，都有能力或专业知识有效执行每一步，突出了伙伴关系的重要性。提升数字安全是一个合作努力，其中合作对所有利益相关者都有益。 干预旅程的步骤如下分类： 这份第五期全球数字安全联盟出版物是在其多元利益相关者成员的支持下开发的，包括平台、监管机构、安全提供商、非政府组织（NGO）、学术界和国际机构。他们在塑造报告中的参与凸显了共同致力于改善各行业数字安全干预措施的实施，并推进使数字空间对所有用户更安全的工作。 系统地识别识别1 分析和分析可能威胁数字环境中的用户、非用户和组织的因素 针对具体已识别风险采取的解决方案，以有效减轻对用户、非用户和组织的潜在损害。 引言 在一个复杂的数字世界中，主动干预优先考虑安全，同时应对监管要求和运营挑战。 报告为读者提供了一个详细的路线图，详细说明了在开发和实施有效的数字安全干预措施中涉及的关键步骤和考虑因素。 数字环境以大量不断演变的不良在线内容为特征，需要的是不仅能够适应和保持最新，而且还要积极主动、前瞻性思考的解决方案，这些解决方案能够与它们旨在减轻的威胁同步演变。 《服务法案》。各国政府和国际组织正在倡导采取更强有力的措施来保护用户和易受伤害的非用户，并让平台承担相应的责任。 然而，关于数字安全工具内部运作的详细披露可能越来越多地被恶意行为者利用，他们可能会利用这些信息更好地绕过安全措施或操纵系统。在这种情况下，挑战在于在保持透明度与维持安全性的必要性之间取得平衡。 在这个复杂的环境中，采取多方面的方法至关重要——没有任何单一干预措施能够解决多样化的在线危害。数字危害的性质使得它难以进行简单的分类或采取简单的补救措施。每一次干预都必须进行仔细评估，权衡其成本与收益，同时考虑其有效性。 小型公司常常由于技术专业知识和预算限制而难以实施有效的数字安全干预措施。这使得在平台之间，如通过合作伙伴关系，共享信息和最佳实践对于解决在线伤害的全球性和互联性至关重要。 数字伤害缺乏明确的解决方案。重点应放在在伤害发生之前减轻风险，同时认识到风险始终会以某种程度存在。在数字安全方面的干预措施伴随着固有的成本，这些成本不仅限于财务支出，还影响到时间、用户体验和表达自由等方面。因此，必须仔细权衡这些成本与潜在收益之间的对比，例如提高安全性、隐私和用户信任，以及保护基本人权。公司必须权衡来自严重犯罪（如儿童性剥削和虐待（CSEA））的实际伤害的严重性，因为此类保护是国际上认可的基本人权。 本报告旨在汇总广泛的数字安全干预措施，为公司提供所需的见解，以增强其识别数字风险、预防伤害、减轻影响以及协助事故后的修复能力。 干预措施已分为四种类型，许多干预措施与多种类型相交。这些类型包括：技术干预、行为干预、教育干预和政策相关干预。 干预数字安全的方式广泛，包括技术和非技术措施，以有效应对在线威胁的复杂性。在所有方法中，衡量和分析数字安全干预措施至关重要。同时，考虑其普及程度、适用性、实施简便性和总体有效性也是必不可少的。 本报告为读者提供了一份详细的路线图，阐述了在开发和实施有效的数字安全干预措施中涉及的临界步骤和考虑因素。 目标是提供有价值的见解和实践性建议，特别是针对中小企业。最佳实践的分享和伙伴关系的利用可以帮助他们发展和部署稳固的安全措施。 干预措施越来越受到不断演变的监管框架的影响，包括澳大利亚的《2021年在线安全法》、英国的《2023年在线安全法》以及欧盟的《数字》。 1绘制干预历程图 通过在整个开发过程中嵌入安全设计原则，可以创造具有弹性和适应性的干预措施，以应对不断发展的数字安全挑战。 干预的实施是一项必须绘制路线图的任务，以识别和解决其在开发和部署的每个阶段可能出现的挑战和风险。通过绘制旅程图，可以学到宝贵的经验，有助于预见诸如技术限制、资源约束或用户采用问题等障碍。这种在旅程的每个阶段都采取的积极主动和预防性策略，遵循了“安全设计”的原则。这种全面的方法不仅确保了干预措施的有效性，还有助于根据不断变化的需求对其进行改进和调整。 需求。此外，这种映射确保了短期和长期考虑因素都被纳入决策过程。 干预之旅应被视为一系列指导干预发展的关键考虑因素，而不是一个线性过程。这个过程往往是——有时也应该是——迭代的。这一旅程中的步骤并非详尽的清单，而是包括了一些示例考虑因素，以帮助进行决策的广泛阶段。 1.1 识别 有必要确定特定于组织的风险因素，包括如下特征：服务功能、用户基础和商业模式，这些因素可能导致潜在的危害。由于没有一劳永逸的风险管理方法，不同的风险类别可能对某些类型的平台或服务（例如社交媒体平台与约会应用）或特定地理区域更为相关。风险因素不能孤立评估，因为风险等级可能取决于多种因素。 受多种风险因素累积影响。了解和认识某些风险因素存在的原因有助于在风险优先级排序中提供帮助。 数字安全风险的识别和缓解应通过全面的风险评估来实现。联盟的报告《数字安全风险评估实践：一个框架和案例研究库》介绍了一个旨在指导此过程的风险评估框架，如图2所示。 风险评估必须考虑到可能受到影响的不同人口群体，包括用户和非用户。这遵循全球联盟的指导原则，即数字安全包括防止对非用户造成伤害：“在线平台还可以根据其过程，进行评估。 工具和规则设计用来促进其服务的“安全使用”，以减轻对易受伤害的非用户群体造成的危害。”1随着组织发展和实施这些评估，确保它们在整个组织范围内得到整合至关重要。 1.2 设计 设计数字安全干预措施时，用户保护应从一开始就列为首要任务。安全设计原则确保防护措施融入产品或服务的框架中。这种方法有助于在潜在危害发生之前预防它们，同时也通过在整个开发过程中嵌入安全来增强用户信任。此外，将安全融入组织的文化和领导层也是关键，旨在培养责任感，并为每个人创造更多积极、文明和有回报的在线体验。2 1.3 实施 显著影响数字安全干预措施的成功。组织必须分配充足资源，不仅用于开发和部署这些干预措施，而且还要随着时间的推移维护、衡量和更新它们。预算限制可能会限制所能实现的范围，导致在优先考虑哪些安全措施方面做出困难的决定。时间限制也可能是一个重大挑战，尤其是在需要迅速应对新兴威胁时。了解数字安全的技术和战略方面的熟练人员往往有限，这使得难以找到并保留有效管理这些干预措施所需的专家。因此，适当的资源规划涉及一个谨慎的平衡行为，确保组织能够实现其安全目标，同时不超出其能力范围。数字安全干预措施最好被视为企业运营的基本成本，组织应从一开始就将它们纳入预算。未经缓解的在线危害的财务、声誉和其他商业成本可能在长期内给公司带来更大的损失。 在实施干预措施时，首要考虑的是与组织的整体数字战略和目标的一致性。这涉及确保干预不仅技术上可靠，而且与组织的文化、价值观和现有流程兼容。可扩展性是另一个关键因素，因为干预措施需要适应各种平台、用户基础和地理区域。与现有系统的集成也是至关重要的，因为新的安全措施必须与当前技术和工作流程无缝地协同工作，而不会引起中断或效率低下。克服组织内部对改变的阻力是一个关键挑战，因为员工和利益相关者可能不愿意采纳新的做法，特别是如