技术变革时代标准如何保障儿童安全与线上防护

技术如何变革童年，标准又如何支持安全与保障？ 2026年8月 简介 2026年7月，BSI邀请了政策专家、官员以及来自产业界、倡导团体和第三部门的代表，探讨“在数字世界中成长：技术如何重塑童年？标准如何帮助保障安全与安全？”这一议题。 为纪念BSI成立125周年而组织的圆桌会议，探讨了包括安全、安保和隐私在内的诸多议题，涵盖了从人工智能玩具、设备和教育技术，到社交媒体、应用程序和聊天机器人的各种技术。此外，会议还旨在主动识别标准在应对重大社会挑战方面可以发挥的作用。 由BSI的劳拉·比希普主持，并得到萨哈·达内什的支持和贡献，此次讨论探讨了什么是良好的数字童年，以及人工智能和数字技术所带来的机遇与风险。这份白皮书总结了讨论内容、关键要点以及BSI应采取行动的领域。 序言 BSI人工智能与网络安全数字领域负责人劳拉·比希博士 非常棒，我们召集了这么多专家参加本次圆桌会议，共同探讨如何将心理和身体安全、安保及隐私融入我们日常使用的数字工具和技术中。 没有比人民安全更重要的责任了，这包括社会弱势群体成员的安全，如儿童和青少年。在过去125多年里，标准在建立人们信任产品是安全、可靠的并符合预期行为方面发挥了重要作用。 应对这些风险需要全社会的协作，涉及行业、政府以及家长和孩子自身。但我们认为，制定标准存在一个明确的机会，以帮助塑造一个更安全、更健康的儿童数字未来。 随着技术越来越深入地融入社会，必须确保其周围的框架能够同步发展，并支持安全、透明且适合年龄的使用方式。心理安全不应被视为次要考虑因素，而应作为设计原则和默认的期望。 目标不是将儿童从数字环境中移除，而是确保技术能够支持儿童的发展、自主性、福祉和安全。 从AI驱动的玩具到全球社交媒体平台，监管、标准和治理可以确保创新始终以人类福祉为核心。 数字童年 - 以数据为据 说实施社交媒体宵禁会改善他们生活的青少年每2人中就有1人 68% 47% 在网上花费时间后觉得自己更糟的年轻人 希望在没有互联网的世界中成长的年轻人 为他们购买了人工智能赋能玩具或学习设备的孩子每2人中就有1人 60% 46% 认为自己的孩子能够分辨人工智能和人类的父母。 那些对孩子与AI互动完成作业感到舒适的父母。 担心AI玩具可能让儿童接触到不良内容或数据风险的家长。 讨论要点 1.并不存在一个“理想的数字童年”。 这并不意味着只有一个良好的数字童年……关键在于让年轻人掌握如何使用这些技术。 参与者一致拒绝“存在一种统一的数字童年模式”的想法。不同年龄、神经多样性、身份认同、家庭环境和个人需求的儿童会有不同的体验。技术可以成为归属感、教育和情感支持的来源，尤其是对来自边缘群体的儿童而言。关键在于建立一个以权利为基础、以儿童为中心的框架。 2.技术以直接和间接的方式塑造着儿童的生活。 儿童拥有活跃的数字生活，他们通过社交网络和聊天机器人等平台进行日常互动。但除此之外，儿童正越来越多地受到周围数字系统的影响，即使他们并未主动使用这些系统，例如智能音箱和机器人吸尘器。数字世界正在塑造他们的现实世界，而被排除在数字世界之外的儿童，也可能在现实世界中被物理性地隔离于社交互动之外。 挑战并不在于重新定义童年，因为技术已经存在，而在于确保技术以健康的方式支持现有的童年需求、权利和发展阶段。最终，技术需要适应童年，而不是相反。 基于风险的决策将在支持健康数字童年方面变得不可避免，例如随着越来越多的应用程序和平台提供群组交流渠道。想象一下，一个16岁的青少年在周末打工时，被禁止使用某些分配班次或供年长同事交流的应用程序。在那个阶段，简单的封禁措施可能并不可行。 这反映了对数字工具运作方式理解的不断变化。互联网历史上是围绕开放性、匿名性和自由信息交换建立的——但这未必适合当今的儿童。相反，参与者讨论了转向身份验证、年龄核实、管理空间或“围墙花园”的价值。 3. 我们在传递矛盾信息 一些参与者指出当前方法中存在矛盾。一方面，儿童可能被鼓励使用数字银行、在线获取作业或通过教育应用程序学习，或被建议培养数字技能以应对就业需求；另一方面，他们又被警告使用技术的潜在影响，或被告知这对他们的发展有害。在数字时代，儿童需要一个跨部门一致的框架。 需要提出的问题是：访问这个平台的风险是否超过了孤立或获取知识所带来的潜在影响？ 孩子们上网本身并不是问题。 4.不仅仅是屏幕时间，而是人们如何体验数字生活。 这也是为了避免对年龄采取“断崖式”的处理方式。参与者质疑那些在特定年龄突然允许儿童接触数字平台的方法，转而强调渐进式接入模式的价值，例如用于确定适合年龄的广告所采用的模式。 该团体质疑了关于屏幕时间的简单化叙述。人们关注的重点转向了诱导性设计、成瘾性参与循环、连续打卡、通知功能、暗模式以及以商业利益为导向的行为操控。 一个良好的数字童年不应仅仅安全，更应积极支持健康成长、自信心、创造力和参与度。这包括考虑线下体验的变化，参与者指出，诸如青年俱乐部或热线服务等传统渠道可能不再可用。 5. 人工智能正在加剧现有的风险 与会者讨论了人工智能生成的儿童色情图像、深度伪造技术、性勒索以及具有操控性的聊天机器人。同样，儿童正越来越多地与能够建立情感联系、提供建议并影响行为的系统互动。 7. 信任是一个关键因素 这种观点并不是认为应该将儿童排除在人工智能之外——鉴于人工智能的普遍性，这几乎是不可能的——而是认为人工智能产品和工具需要更严格的监管、透明度和测试。 儿童越来越倾向于通过网络、应用程序或社交媒体获取新闻和信息。即使有禁令，这种情况也不太可能改变，因此需要更加关注如何帮助他们辨别哪些信息是真实的，哪些是虚假的。 6.关注心理福祉与未来 这也需要认识到信任在不同年龄和阶段是如何演变的；年幼的儿童无条件地信任他人，而青少年可能更加怀疑，但仍然深受他们在数字世界中所看到的内容影响，尤其是那些他们视为榜样人物的内容。 预防或减轻伤害至关重要，但对儿童数字生活的关注还应包括采取主动措施来支持其积极的身心健康。 8. 国际格局 全球儿童网络保护格局呈现出多样化方法而非共识。大多数国家正朝着为儿童提供更全面的网络保护方向发展，但在责任归属上存在分歧：是归于儿童和家长（通过年龄限制），平台（通过安全设计义务），政府（通过直接监管），还是教育体系（通过数字素养和韧性教育）。 已实施严格年龄限制禁令的国家如今正面临如何执行限制的挑战，在某些情况下，还面临限制对青少年数字权利和儿童发展造成影响的反噬。 采取行动——社会各界、政府和行业应关注的领域 尽管有些人抱怨用户流失，但他们已经成功建立起相关机制。年龄证明在现实生活中被接受，即使它带来不便。 1.完美不应成为美好的敌人。 与会者明确表示，现状无法维持。尽管行业部分领域可能认为变革复杂或有风险，家长也可能因挑战而感到不知所措——但社会并非无能为力。政策制定者、民间社会、行业和家长之间存在一个明确且紧迫的机遇，即协作寻求解决方案，以支持良好的数字童年。 同样，家长控制功能的存在表明，某些数字平台的功能可以开启或关闭，而无需事先获得访问权限。最后，目前已有一些标准可用于支持儿童安全，其中包括年龄验证框架（BS ISO/IEC 27566-1:2025）。 共识是，虽然变革可能不会一夜之间发生，但等待一个完美的解决方案会设置不必要的障碍。参与者强调，在经历了近二十年之后，我们仍在努力管理社交媒体，如今又面临着应对人工智能的挑战。变革可能需要灵活、迭代和及时响应——但采取行动已刻不容缓。 例如，参与者指出，数字领域的某些部分已经证明进步是可能的。自《网络安全法》颁布以来，成人网站已被要求进行更严格的年龄验证。 普遍认为，一个健康的数字童年不应仅仅通过减少接触伤害来定义。孩子们将成为明天的学生、工人、选民、父母和技术开发者。人们期望他们能够使用人工智能工具、获取数字服务、在线评估信息并参与复杂技术。 2. 保护——赋权 与会者明确表示，对年轻人赋权与保护同样重要。他们需要具备技能、信心和理解力，以应对数字环境。限制访问、屏蔽功能和更强的控制措施确实有其作用，但仅靠禁令可能不够，甚至可能适得其反，如果这些措施未能帮助儿童在成年后安全地使用技术的话。 完全将儿童与这些环境隔绝既不现实，也不可取。相反，他们需要积极、安全的机会来培养应对数字世界所需的知识、信心、批判性思维和自主能力。 过度保护的态度可能会导致孩子被技术所隔绝，而非为技术做好准备。 因此，标准应同时支持对儿童的保护，以及根据儿童不同发展阶段逐步培养其数字自主能力，确保他们在线上环境中的安全，并具备在未来的数字社会中茁壮成长的能力。 这关乎赋权，以及他们拥有选择和理解技术的权利。 3. 代理才是真正目的。 孩子们对我们说：“我希望我能放下手机。” 讨论反复回到“机构”这一主题。参与者认为，随着儿童的成长，他们应逐步获得更多的控制权和责任感。目标应是让儿童理解数字系统的工作原理、技术为何以特定方式设计、数据是如何被收集的，以及何时应该信任信息、何时应该质疑它。 这意味着赋权需要系统性地重新设计，而不仅仅是教育或把责任推给儿童或家长。仅仅接受数字素养培训，就指望用户能够克服工业规模的行为设计是不现实的。 尽管许多儿童已经能够熟练地使用数字平台，并且了解算法或基于注意力的系统是如何运作的，但参与者指出，年轻人仍然表示自己感到无法掌控自己的体验。这些平台的设计初衷是最大化用户参与度，例如通过鼓励连续打卡、定期通知、游戏化元素或无限滚动等功能。 赋权意味着创造能让儿童做出有意义选择的环境。它并非指要求儿童或家长承担那些被刻意设计出来的风险所带来的负担，也不是指对糟糕的设计决策进行补偿。 社会已经经历过这种模式，即通过社交媒体，现在又可能在人工智能系统、聊天机器人、沉浸式技术以及人工智能玩具中重复出现。这种担忧并不是要完全阻止儿童接触这些技术——因为这在很大程度上是不可避免的，而且这些技术也有其益处——而是希望产品在投放市场前应经过风险评估、测试和设计，以减轻可预见的危害。 这包括考虑诸如有害的参与机制、具有操控性的设计、不恰当的互动、升级至人工支持的路径以及持续的风险监测等问题。 4.安全设计文化至关重要 人们普遍认为需要进行文化转变，将儿童的安全置于商业利益之上。讨论指出，教育和家长监督作为安全机制存在局限性。 需要考虑具有不同视角的各种声音，例如在设计过程中引入行为科学家或心理学家，参与制定标准或指南。 数字素养无法弥补那些在设计时未充分考虑儿童福利的产品。明确的信息是，儿童安全应从一开始就融入数字产品中，而不是在危害出现后才加以解决。 与其首先考虑产品是否创新，其次考虑是否安全，行业应当被要求证明，在设计的全过程、开发过程和部署过程中，都考虑到了儿童安全。这将与实体产品的方法保持一致，即产品在经过严格的安全测试后才向儿童发布。 我们需要一个基本原则，即在儿童进入数字世界之前，必须首先建立安全检查和强大的测试机制，以确保他们能够获得安全的体验，并且这种安全性已融入该服务的设计之中。 参与者们反复质疑当前的模型，该模型下新技术会率先发布，且只有在累积到损害证据时才会受到干预。 最终，开发者、平台和服务提供商应承担确保产品默认安全的主要责任。 5.我们还需要考虑损害发生后的缓解措施 通过设计文化转向安全性，而不是在事故发生后采取补救措施，是最终目标，但在过渡阶段需要采取全面的方法。 这个问题不再仅仅是预防，而是当损害已经发生时，存在哪些机制？这可能包括清晰易懂的强效家长控制措施、争议解决机制和申诉权利，以及问题报告甚至内容删除。 此外，平台问责制需要进一步扩展，要求企业评估并减轻风险，而不仅仅依赖用户或家长的责任。针对儿童的平台需要考虑在检测到有害内容时，何时应有人工干预。 与网络安全不同，在线儿童安全的商业案例往往不那么直接，尤其是在伤害属于心理、发展或社会层面而非直接经济层面的情况下。商业激励