政策制定者应该（也不应该）如何解决儿童聊天机器人的安全问题

亚历克斯·安布罗斯 | 2026年8月 政策制定者正急于规范人工智能聊天机器人。但他们应仔细权衡最佳方法，以实现安全使用，同时有意义地保护儿童免受伤害。 关键要点 每一波新技术都会引发“保护儿童”的立法反射，AI聊天机器人也不例外。然而，虽然某些方法有益，但其他方法则可能无效甚至适得其反。 解决儿童聊天机器人安全问题的最佳方法，是关注透明度、有针对性的安全措施以及赋权家长。 许多旨在保护儿童免受聊天机器人伤害的法案，其错误之处在于简单地将诸如年龄验证、内容限制和全面禁令等无效的社交媒体方法生搬硬套。 截至目前，已有近100项州级聊天机器人安全法案被提出，美国可能很快就会形成一套拼凑式的法规，这将使人工智能平台合规变得复杂，并且无法有效保护儿童免受伤害。 政策制定者应避免对聊天机器人和人工智能的道德恐慌，转而推广有意义的家长控制措施、行业标准以及有针对性的安全保护措施，这些措施旨在解决已记录的危害，同时又不切断儿童接触有益工具的途径。 目录 .............................. 引言 每一波新技术都会引发“保护儿童”的立法反射。1 在寻求解决社交媒体对儿童造成的真实或虚假伤害的方案时，政策制定者转向了有缺陷的政策——例如年龄验证和 outright 禁令——这些政策将儿童与社交媒体的益处隔绝开来，而不是真正针对其风险。立法者现在正将这套策略应用于人工智能（AI）聊天机器人，或处理用户输入以进行模拟对话的系统。2 但这套策略对人工智能或聊天机器人都不奏效。同时，最近不幸的事件，如儿童自杀、暴力枪击和年轻人的极端化，明确表明需要针对儿童在线安全的有效聊天机器人监管。3 但将无效的社交媒体框架应用于聊天机器人，不仅未能妥善解决儿童的安全问题，至少也给成年用户带来了不便。 与许多已提议和实施的社交媒体法规一样，拟议的聊天机器人法规因依赖年龄验证、对“伤害”的模糊定义以及“网络成瘾”叙事而未能切中要害。社交媒体和人工智能聊天机器人平台不仅存在巨大差异，而且这些方法也过于限制性，并带来一系列负面后果。 截至2026年，美国已有近100项针对国家聊天机器人的法案和几项联邦法案。截至8月4日，政策制定者应抵制急于监管的冲动，而应仔细权衡各种方法，以确保聊天机器人的安全使用，同时有效地保护儿童免受与聊天机器人相关的伤害。 聊天机器人政策“应做事项” 有效的聊天机器人监管应聚焦于透明度、有针对性的安全防护措施以及赋权家长。以下建议构建了一个既能保护儿童，又不将他们隔绝于技术之外、且不削弱技术有效性的框架： 请使用儿童旗帜系统 国会应通过立法，要求设备操作系统为用户账户创建一个可选的“可信赖儿童标志”，该标志在首次设置设备和后续在设备设置中均可访问，用以向应用程序和网站表明用户为未成年人，并要求为年龄限制内容提供服务的应用程序和网站检查此标志，以对其用户进行核查并阻止此类内容。5 这种方法允许家长只需在每台设备上为孩子的未成年人用户设置年龄一次。此外，它不会强迫聊天机器人收集额外的可识别个人信息。虽然聊天机器人通常会收集个人信息，但强迫它们这样做是保护儿童的一种倒退方法。儿童标志系统可以在不引发额外隐私问题的前提下解决儿童安全方面的担忧。6 鼓励有意义的家长控制以降低风险 许多政策制定者在处理青少年和聊天机器人相关问题时所面临的解决方案，例如访问暴力性和色情内容、在平台上花费大量时间以及发展准社会关系（单向情感依恋），都应从家长入手。与禁令或一刀切的年龄或内容限制等此类解决方案相比，可供家长自由设置、易于访问且透明的家长控制功能，能更有效地体现不同家庭在技术及网络内容使用方法上的差异，以及儿童的需求。尽管存在缺陷，但由参议员泰德·克鲁兹（得克萨斯州共和党）和布赖恩·沙茨（夏威夷州民主党）于2026年4月提出的《儿童健康、进步、信任、界限和技术监管法案》（CHATBOT法案）正确地强调了家长在定制其子女聊天机器人体验方面的作用，该法案允许家长设置时间限制、调整隐私设置以及禁用奖励和推送通知。平台应实施有意义的控制措施——例如时间限制、隐私设置和内容过滤器——这些措施应易于家长理解和访问，并鼓励其使用。 与此同时，也存在一些设计特性旨在让青少年沉迷于线上体验——不仅仅是与聊天机器人的互动，例如宝箱、随机代币、每日登录要求以获得更好的奖励，以及限时虚拟奖励，这些特性针对的是孩子们无法理解他们正被操纵花钱或花更多时间玩游戏的情况。例如，一个要求与AI伴侣或聊天机器人进行一定时长对话才能解锁奖励的聊天机器人，可能会助长不健康的现实世界行为，例如为了继续与聊天机器人聊天而牺牲睡眠。 尽管虚拟奖励有积极用途，例如教育AI伙伴在考试得“A”时“庆祝”，但也存在负面用途，例如AI伙伴因用户未能每日登录而“感到悲伤”或“情感疏远”。科罗拉多州的HB 1263禁止以不可预测的间隔发放积分或奖励以鼓励参与，但更好的方法是要求平台设计家长控制功能以降低这些风险。11 立法应向家长提供易于获取和使用工具，以便他们根据孩子的需求调整聊天机器人的功能，因为对某个孩子而言“上瘾”或有其他危害性的东西，对另一个孩子来说可能很有价值。 另一次。这可能包括诸如时间限制或限制谄媚语言等特征，以及对积分、奖励和其他激励的限制。 鼓励数字素养 美国心理学会表示，人工智能素养是青少年必须掌握的一项“关键技能”，这应包括负责任地使用人工智能系统、识别虚假信息和错误信息的方法，以及潜在的危害，例如过度使用屏幕时间会减少面对面互动和现实世界的承诺或建立不健康的情感联系。平台和政策制定者都应寻求平衡，在实施能以吸引人的方式呈现信息的情感化聊天机器人，并鼓励安全使用方面，提供有意义的保护措施以应对幻觉和虚假信息。 尽管警示标签和信息披露大多无效，但教育用户（尤其是儿童）如何形成与科技不健康的联系、如何判断信息来源是否可靠，以及人工智能系统本身并不具备情感，这是值得做的。政策制定者也可以鼓励强调s. 教导儿童如何识别可信信息来源，以学会有效识别虚假信息。14 与成人相比，儿童和青少年的批判性思维和自我调节能力仍在发展中。儿童理解长期后果和学习演绎式数字推理能力通常要到15岁或16岁左右才能完全发展成熟。因此，在这些年龄段以及之前的阅读素养教育应赋予儿童在聊天机器人的情境下运用其正在发展的批判性思维能力的工具，同时应设置家长控制功能，以填补儿童在认知上尚未准备好以成人方式规避某些自身风险时的空白。 需要披露付费内容 在美国，由于与品牌存在关联（例如收到免费产品后），用户发布内容时，联邦贸易委员会（FTC）要求进行书面披露。这项要求导致影响者在社交媒体帖子中明确披露“付费”、“折扣”或“因亲属关系”等情况，并使用“广告”或“推广”等标签。即使在社交媒体出现之前，FTC也要求搜索引擎的付费搜索结果进行类似披露，例如通过阴影或边框进行视觉区分，并附加“推广”或“广告”等标签。政策制定者应要求披露聊天机器人输出中包含这些付费推广内容的情况，类似于对网络搜索和社交媒体付费帖子的披露要求。 制定清晰明确的定义，包括例外情况 与社交媒体类似，“伤害”的构成是主观的，并可能为审查提供途径。“保护儿童免受伤害的‘照护义务’或‘忠诚义务’”这一措辞出现在多项聊天机器人和社交媒体法案中，其中最著名的是KOSA法案，该法案被纳入了2026年3月提出、2026年6月获众议院通过的《儿童互联网与数字安全法》（KIDS法案），以及参议员玛莎·布莱克本（R-TN）提出的《特朗普美国18号法案》。具体而言，这些在线服务将负有义务，确保其设计功能能够防止和减轻对未成年人的伤害。《人工智能法案》也于2026年3月提出。但这一措辞含糊不清，这将使合规变得复杂，并可能导致昂贵且无谓的诉讼。 过于宽泛的定义，例如“照护义务”，试图保护儿童免受有害内容的影响，但往往导致对这些技术的过度监管。为了避免诉讼，在线服务可能会过度纠正，从而使得未成年人（甚至所有用户）更难获取与心理健康、自杀、饮食失调、性教育等相关的有用内容。 “聊天机器人”已成为许多人工智能工具的通用术语，尽管这样做模糊了重要的区别。大多数州和联邦立法通过未能区分旨在模拟情感联系和人际关系的人工智能伴侣或系统，以及不模拟关系的一般用途人工智能聊天机器人，从而加剧了这个问题。例如，虽然由参议员乔恩·哈斯特德（共和党，俄亥俄州）提出的《受人工智能技术伤害的儿童法》（CHAT法案）最初声称专注于人工智能伴侣，但其措辞会将ChatGPT、谷歌的Gemini、Anthropic的Claude，甚至亚马逊的Echo或苹果的Siri——这些都不是设计为人工智能伴侣的聊天机器人——都涵盖在内。将这两种类型的聊天机器人——人工智能伴侣和Siri——混为一谈意味着旨在防止准社会关系的立法最终会监管零售平台或客户服务的聊天机器人，在这些平台上情感依赖的风险微乎其微，并会造成不必要的监管负担。结果，政策制定者可能会监管比预期更多的技术。值得庆幸的是，参议员哈斯特德于2026年7月提出的更新版CHAT法案2.0，联合赞助人为参议员安迪·金（民主党，新泽西州），通过创建分层的聊天机器人类别，正当地区分了这些类型。21 同样地，众议员艾琳·霍钦（R-IN）于2025年12月提出的《保护青少年免受剥削性机器人剥削法案》（SAFE BOTS法案），并将其纳入《儿童法案》中，合理地将零售网站，例如在零售网站上提供购买建议的聊天机器人等，排除在外。 为许可的AI专业服务设定明确标准 尽管许多人了解通用聊天机器人在与持牌专业人士相比时的局限性，但仍有人依赖虚假或误导性信息获取法律建议，以至于解雇了他们的律师；而其他人则听从了聊天机器人的医疗建议，这引发了2026年5月宾夕法尼亚州对Character.AI（一个人工智能伴侣平台）提起的诉讼，该诉讼指控其虚假标记聊天机器人为持牌心理健康专业人士，且与医生建议相悖。 为应对这一问题，一些法案限制了或禁止聊天机器人将其回复等同于持牌心理健康专业人士的回复。支持这项政策的倡导者表示，既然人类医疗服务专业人士必须在州一级经过许可程序，那么提供相同建议的聊天机器人本质上也应经历同样的程序。 伊利诺伊州和内华达州规范了在提供持证心理健康或行为健康服务时使用人工智能系统（包括聊天机器人）的行为。26 纽约提出的S7263法案将就聊天机器人冒充持证专业人士造成损害承担法律责任，这不仅仅限于心理健康服务，还包括其他健康和法律服务。27 在联邦层面，由众议员瓦莱丽·富谢（D-NC）和格雷格·卡萨尔（D-TX）于2026年7月提出的“聊天机器人法案”和“以人为本聊天机器人法案”禁止聊天机器人暗示在医疗保健、保险和金融行业执业的资格。28 然而，很可能出现这样的情况：某些经过可靠数据训练并由专业人士审核的聊天机器人，将能有效提供与持证专业人士相同的服务。 在这些情况下，政策制定者不应为聊天机器人设定比人类专业人士更高的标准。但他们应设定与人类专业人士在特定领域执业必须达到的标准相一致的标准。 一个有用的模式是犹他州的HB 452法案，该法案要求持证心理健康治疗师参与心理健康聊天机器人的开发和审查过程，并且（聊天机器人）的开发需符合临床最佳实践。该法案还合理地指出，需通过测试“确保心理健康聊天机器人的输出对用户的风险不大于与持证心理健康治疗师进行治疗的个体所面临的风险”。 国会也应要求平台将承担类似强制报告人角色（如教师、治疗师或护士）的AI伴侣，视为有类似报告义务。然而，政策制定者需要非常明确的规定，因为任何具有“强制报告人特征”的聊天机器人仍需承担义务。这可能导致不必要的过多技术被纳入草率制定的法案中。行业在制定这些澄清的自我标准方面也扮演着角色。 处理儿童自杀意念的对话 在美国，已有多个有案可查的法律案例记录了儿童通过聊天机器人接触过度色情、暴力或自杀内容，部分儿童因此自杀身亡或严重自残，部分原因在于与这些技术存在不健康的关联。31 这些案例清楚地表明，聊天机器人平台本身、政策制