关于数字环境中的儿童权利影响评估

当前趋势与行业实践研究结果摘要 目录 1. 执行摘要 22. 项目概述 72.1 引言72.2 研究方法9 3. 识别和评估对12岁儿童的影响 3.1 儿童权利评估的历史123.2 针对儿童的独特考量153.3 评估儿童权利的关键指导183.4 CRIA 方法论24 4. 有关技术的CRIA工具 324.1 概述324.2 CRIA工具分析34 当前实践 43 5.1 股东访谈洞察445.2 可用CRIAs的综述515.3 可用的HRIAs回顾54 附录B 626. 不断变化的监管环境 57附录A 617. 结论 61 致谢 本报告由BSR的Orissa Erwin-Rose、Hannah Darnton和Ife Ogunleye撰写。BSR对参与本研究的联合国儿童基金会（UNICEF）、Dunstan Allison-Hope、Lale Tekişalp、Maria Robold以及来自民间社会、工业和学术界的合作伙伴表示感谢。 BSR是一个专注于创造一个所有人都能在健康星球上蓬勃发展的世界的非营利性商业网络和咨询公司。BSR拥有超过30年的经验，与公司合作，致力于公平和可持续的商业。为该项目做出贡献的BSR团队成员工作在技术与人权交叉领域。他们所有人在儿童权利方面都有专业知识。 1. 执行摘要 数字时代为社会带来了巨大的利益，包括对儿童的益处。然而，数字技术的传播也伴随着一系列风险，儿童特别容易受到这些风险的影响。1为了应对这些风险，开发或部署数字技术的公司有责任进行调查，以识别和解决他们所涉及的负面人类和儿童权利影响。儿童权利影响评估（CRIAs）可以通过采用基于联合国关于企业与人权指导原则的方法，帮助公司进行尽职调查，以识别和评估对儿童的实际或潜在影响。 关于本报告 在2023年，联合国儿童基金会（UNICEF）与商业社会责任公司（BSR）合作，开展了一项旨在制定有关数字环境中进行儿童权利影响评估的全球指南的倡议。在此倡议的第一阶段，BSR对当前行业内关于儿童权利和人权影响评估的实践进行了深入审查，以为新指南的设计和范围提供信息，该指南将于2025年出版。有关联合国儿童基金会工作的更多内容，请点击此处阅读。 本报告旨在分享更多细粒度的洞察，关于BSR的研究发现，并为此不断发展的领域中的现有知识库做出贡献。本报告补充了联合国儿童基金会（UNICEF）于2023年发布的发现简报。本报告为BSR出版物，不表达也不代表UNICEF的任何立场。 关于数字化环境中的儿童权利 儿童因其正在发展的身体和认知能力，以及社会经济阶层、父母和照顾者所需的指导与监督程度、教育水平、残疾等因素，被认为是特别容易受到其人权侵犯的群体。研究表明，儿童面临着来自技术的一系列潜在负面影响，包括网络性剥削和虐待、歧视、接触仇恨内容和暴力图像、隐私侵犯以及网络欺凌。这些风险在处于脆弱状况的儿童中通常会加剧，例如那些经历贫困或心理健康挑战的儿童，以及接触一种网络伤害会增加遭遇其他伤害的可能性。 联合国关于数字环境中儿童权利的第25号一般性评论（2021）以及经济合作与发展组织（OECD）修订的风险类型（2021）为《儿童权利公约》（1989年）在数字环境中的应用提供了重要见解，以及儿童可能遭遇的不同类型的风险及其在线影响。虽然这两个文件都没有提供CRIA方法，但它们可以通过提供对数字环境中儿童实际和潜在影响的基准理解，为CRIAs提供信息。 执行CRIAs（企业责任实施指南）有助于公司在部署新产品、服务和新功能时，或作为满足监管要求的日益增加的风险评估流程的一部分，识别和解决突出的儿童权利问题，履行其在《联合国全球契约》下的责任。 CRIA趋势 公司、政策制定者、民间社会和其他参与者以多种方式理解和评估针对儿童的风险。这包括通过人权尽职调查流程（包括儿童权利影响评估或人权影响评估）、合规计划、重要性评估、产品审查周期以及/或信任和安全流程来评估儿童权利影响。进行儿童权利影响评估有助于公司履行其在联合国人权与商业原则指南（UNGPs）下的责任，以在部署新产品、服务和新功能时识别和解决突出儿童权利问题，以及作为日益受到法规要求的风险评估流程的一部分。 为了了解公司在实践中如何评估对儿童的影响，BSR审查了四项关于技术产品或服务的公开和四项机密性的CRIAs。BSR还审查了包含儿童权利和数字环境因素的15项已发表和20项机密性的HRIAs。此外，BSR对28个利益相关者群体进行了访谈，这些群体的工作围绕或涉及数字环境，并在两个虚拟圆桌会议上从大约100名利益相关者那里征求了反馈。关于发现的全貌可在第5节：当前实践（下文）中找到，联合国儿童基金会发布的初步发现摘要可在此处查阅。 关键对CRIAs的洞察。 从评估审查和利益相关者参与中获得的关键见解包括以下几点： • 企业寻求了解他们在数字环境中对孩子实际及潜在影响的认知，但使用CRIAs来做到这一点的人为数不多。 • 执行CRIA的决定可以由多种因素触发，例如尽职调查或风险评估流程，这些流程将儿童权利识别为需要进一步审查的显著或重要问题，股东决议或外部利益相关者的压力。 • 公司在评估对儿童的影响时往往侧重于安全性。这可能导致一些对儿童的实际和潜在影响被忽视，以及儿童参与权利没有得到足够的重视。在少数评估中，并没有将全面审查与作为参考点的完整儿童权利清单相结合。 •来自民间社会、学术界和政府的相关方认为，企业在儿童权利方面做得太少，并寻求更多关于评估的透明度。然而，声誉、保密和责任方面的担忧阻碍了企业分享儿童权利 Impact Assessment（CRIA）和其他类似评估的结果。 • 新法规在公司内部消耗资源并限制产能。这使得强调CRIAs如何支持合规努力变得尤为重要。 • 企业希望与儿童进行互动，以了解其影响，但许多企业不确定如何有效且在全球范围内实现这一点。在审查的CRIAs和HRIAs中，咨询儿童权利专家比直接与儿童互动更为常见。 • 缺乏关于如何评估新技术和新出现技术影响的指导，如何调和可能相互冲突的权利（例如，言论自由和安全），以及如何全面考虑风险和机遇。 不断变化的监管环境 越来越多政府已制定规定，要求提供在线或数字服务的公司考虑对儿童的潜在风险。BSR评估了澳大利亚在线安全法案、加利福尼亚适龄设计法规法案、欧盟企业可持续发展报告指令、欧盟数字服务法案、英国适龄设计法规和英国在线安全法案，并考虑了这些新规定可能对公司评估对儿童影响的途径产生的影响。我们得出以下观察结果： • 根据法规要求的风险评估方法通常期望公司开展利益相关方参与，并考虑儿童面临的风险的严重性，而非商业风险。这将会增加考虑儿童风险的企业范围。 • 规范持续纳入儿童权利的考量；然而，一些规范仅限于特定的权利，如网络安全或隐私，可能只要求有限的评估。这与CRIAs评估对儿童所有权利影响的预期不一致，而不仅仅是权益的一个子集。 • 公司可能会开始将人权、儿童权利和合规流程合并为单一集中评估程序，涵盖所有强制性和自愿性风险评估。 联合国儿童基金会的回应 联合国儿童基金会将开发一套包含三个部分的工具包，以满足通过利益相关者参与和对现有儿童权利评估工具的分析所确定的需 儿童权利简介/101幻灯片演示文稿，解释CRIAs是什么以及为什么进行它们。 针对数字环境中进行CRIAs（儿童权利影响评估）的专门指导将有助于公司系统地考虑儿童权利，并有助于确保儿童权利得到保护、尊重和促进。 一个工具/电子表格，旨在在CRIA（儿童权利影响评估）过程中促进证据收集和深入分析，并与人权和儿童权利评估的最佳实践相一致；以及 一份指导文档，提供了关于CRIAs为何具有价值以及如何实施此工具的详细信息。 新工具将于2025年初推出，随后将针对目标受众开展实施培训。 这个项目在这样一个时期展开，此时有明确的证据表明技术对儿童具有强大的影响，但儿童权利评估、缓解和沟通实践往往是临时的而非战略性的。专为数字环境中的儿童权利影响评估（CRIA）编写的指南将帮助公司系统地考虑儿童权利，并有助于确保儿童的权益得到保护、尊重和促进。 项目概述 2.1 引言 数字技术和互联网的时代为社会带来了巨大的益处，包括对儿童的益处。数字接入提供了学习、沟通、娱乐和社交互动的机会，为儿童权利的实现创造了巨大潜力。然而，数字技术的普及也伴随着广泛的风险，儿童特别容易受到这些风险的影响。 大多数儿童都能访问互联网并频繁使用，即使他们在家中没有互联网连接。波士顿咨询集团（BCG）的一项全球研究发现，12岁以下的儿童中有93%每天使用互联网。2儿童和青少年出于各种原因与科技互动，包括教育、玩耍和休闲、获取基本服务以及与朋友和家人的社交。尽管使用和接入模式因地区而异，但全球家庭连接性的增强、受COVID-19大流行推动的教育技术使用激增以及社交媒体平台的流行，已经将数字环境嵌入到儿童的日常生活中。3 93% 波士顿咨询集团（BCG）的一项全球研究发现，到12岁时，93%的儿童每天都使用互联网。 儿童可能受到技术产品或服务使用者的冲击，也可能因为周围数字技术的发展、部署和使用而作为非使用者受到影响。例如，2022年，72%的互联网使用者儿童报告称至少经历过一次“网络威胁”，如欺凌或骚扰、不想要的广告或不当的图片或内容。42023年，亚马逊与美国司法部和联邦贸易委员会就其保留通过Alexa智能家居设备收集的儿童语音记录而不删除数据的行为达成2500万美元和解的消息公布后，环境计算的间接隐私风险得到了曝光。5 2 BCG，《为何网络空间中的儿童不安全》，2022年9月21日。3 Gallup，《青少年每天平均在社交媒体上花费4.8小时》，2023年10月13日。4 BCG，《为何网络空间中的儿童不安全》，2022年9月21日。5 https://www.justice.gov/opa/pr/amazon-agrees- injunctive-relief-and- 25-million-civil-penalty- alleged-violations- childrens. 尽管近年来儿童对科技产品和服务的使用有所增加，但了解可能出现的全部影响范围仍具挑战性。 为了履行尊重儿童权利的责任，公司应制定与自身业务性质相适应的政策和流程。 具有挑战性，原因包括：（1）技术进步的快速步伐以及技术使用方式的改变；（2）公司可以收集的用户数据的监管保护；（3）公司缺乏透明度；（4）影响儿童的后果可能因个人和环境因素（如年龄、社会经济状况、性别和家庭状况）而异。 儿童可以通过不同的方式与危害相关联。他们可以是受害者、目标、参与者，以及有风险或有害在线行为的发起者。6儿童在数字环境中的复杂角色以及年龄验证机制的挑战导致了关于技术产品和服务对儿童累积影响缺乏经过验证的信息。7因此，识别影响和创建有效的缓解措施变得更加困难。然而，当儿童与专门 为他们设计的产品和平台互动，或者这些产品和服务能够充分纳入儿童权利考虑时，这些危害发生的可能性降低。 联合国儿童权利与商业原则（CRBPs）和联合国非政府组织（UNPGs）指出，公司对儿童的影响可能非常严重且持久，并且由于他们的身体和心理发展水平，更有可能无法逆转。因此，公司有责任通过“避免侵犯”权利和“解决他们所涉及的负面影响”来尊重和支持儿童权利。 为了履行尊重儿童权利的责任，公司应在其业务性质的基础上建立适当的政策和流程，包括一项政策承诺，即履行其尊重儿童权利的责任；一个关于儿童权利尽职调查的流程，以识别、预防、减轻和说明如何应对其对人权的负面影响；以及能够修复任何不利儿童权利影响的流程。 6 Thorn, 应对在线威胁：未成年人对披露、报告和阻止的看法，2021年5月 7数字信任与安全伙伴关系，年龄验证——指导原则和最佳实践，2023年9月. 它们引起或对它们有贡献。8这些政策和流程通常涉及广泛的人权，其中儿童权利是其中一部分。 联合国儿童基金