政策制定者应该（也不应该）如何解决儿童聊天机器人的安全问题

每一波新技术都会引发“保护儿童”的立法反射，AI聊天机器人也不例外。然而，将社交媒体的监管方法，如年龄验证、内容限制和全面禁令，简单套用在聊天机器人上，不仅无效，还可能适得其反。解决儿童聊天机器人安全问题的最佳方法，是关注透明度、有针对性的安全措施以及赋权家长。

目前，美国已有近100项州级聊天机器人安全法案被提出，可能导致一套拼凑式的法规，使人工智能平台合规变得复杂，并且无法有效保护儿童免受伤害。政策制定者应避免对聊天机器人和人工智能的道德恐慌，转而推广有意义的家长控制措施、行业标准以及有针对性的安全保护措施。

有效的聊天机器人监管应聚焦于以下建议：

• 请使用儿童旗帜系统：要求设备操作系统为用户账户创建一个可选的“可信赖儿童标志”，以向应用程序和网站表明用户为未成年人，并要求为年龄限制内容提供服务的应用程序和网站检查此标志。
• 鼓励有意义的家长控制以降低风险：平台应实施有意义的控制措施，例如时间限制、隐私设置和内容过滤器，这些措施应易于家长理解和访问，并鼓励其使用。
• 鼓励数字素养：平台和政策制定者都应寻求平衡，在实施能以吸引人的方式呈现信息的情感化聊天机器人，并鼓励安全使用方面，提供有意义的保护措施以应对幻觉和虚假信息。
• 需要披露付费内容：要求披露聊天机器人输出中包含这些付费推广内容的情况，类似于对网络搜索和社交媒体付费帖子的披露要求。
• 制定清晰明确的定义，包括例外情况：避免使用含糊不清的术语，如“照护义务”，以防止对这些技术进行过度监管。
• 为许可的AI专业服务设定明确标准：为经过可靠数据训练并由专业人士审核的聊天机器人设定与人类专业人士在特定领域执业必须达到的标准。
• 处理儿童自杀意念的对话：聊天机器人平台本身、政策制定者以及家长都需要更好地应对聊天机器人对话涉及极端身体或心理伤害的问题。
• 禁止滥用受儿童喜爱的虚构角色：密切关注利用 parasocial relationships（准社会关系）不当的聊天机器人和伴侣，例如使用未经授权的喜爱、受信任的角色形象来制作有害或令人不安的内容。
• 加大科研投入：优先资助研究人工智能伴侣对不同群体（尤其是儿童）的影响。
• 鼓励行业自律的最佳实践：鼓励人工智能行业制定类似于制造设备和其他信息技术等其他消费品类别中使用的安全标准。

政策制定者应避免以下方法：

• 不要要求所有用户进行年龄验证：年龄验证要求通常仅适用于某些类型的服务，例如涉及性行为或暴力对话的人工智能伴侣。
• 不要限制内容：避免禁止聊天机器人提供金融、法律或医疗信息，以及收集儿童与聊天机器人的对话记录。
• 不要延续“成瘾”叙事：“成瘾”并非一个科学上或医学上精确描述聊天机器人使用的术语，因此政策制定者应避免使用这一陈词滥调。
• 不要依赖警告标签来教育用户关于危害：强制使用警告标签是一种有缺陷的方法，它看似表示关切，但实际上并未提供任何实质性的保护。
• 不要禁止定向广告：精准广告是互联网的主要收入来源，若剥夺这种收入，将导致儿童可获得的资源更加匮乏。
• 不要禁止所有未成年人使用聊天机器人：全面禁止聊天机器人将使年轻人与安全聊天机器人和人工智能伴侣提供的全天候支持相隔绝。
• 不要将谄媚当作替罪羊：仅仅因为谄媚这一特征就呼吁禁止或限制聊天机器人或其他LLMs，可能会波及到更多不必要的科技。
• 不要规定时限：聊天机器人时间限制也可能面临第一修正案诉讼，并且儿童可以通过创建多个账号来延长会话时间，或使用父母的或朋友的账号来规避时间限制。

保护儿童免受聊天机器人的实际潜在危害，并不需要禁止或严格限制这项对教育、心理健康支持和个人发展具有巨大潜力的技术。政策制定者应抵制重蹈社交媒体监管失败覆辙或对道德恐慌做出反应的诱惑。相反，审慎的监管应聚焦于清晰的定义、有效的家长控制、行业标准以及有针对性的安全措施，这些措施旨在解决已记录的危害，同时又不切断儿童接触这些有益工具的途径。