人工智能全球治理与可持续发展：挑战与应对
复旦智库报告 我们还是理性人吗？美国 AI 陪伴的治理路径与局限 辛艳艳 等著 随着 AI 陪伴应用快速普及，情感依赖乃至操纵等风险日益凸显，治理需求愈加迫切。美国作为 AI 陪伴商业应用的前沿市场，已接连发生未成年用户自杀等极端事件，引发强烈社会争议。加西亚诉 Character.AI 案与雷恩诉 OpenAI 案两起具有里程碑意义的诉讼，集中揭示了 AI 陪伴应用应用存在掠夺性拟人化设计缺失、年龄保护机制应对不足、安全风险监测失灵等系统性缺陷。为有效规制 AI 陪伴的相关风险，美国纽约州和加利福尼亚州于 2025 年先后出台专项立法，拉开了全球层面对 AI拟人化互动进行实质性规制的序幕。 目录 第一章AI陪伴下的关系范式转移与治理议题..................................01 一、研究背景与问题提出........................................................................01二、文献综述：AI陪伴下的伪亲密关系与情感治理...........................03三、研究问题和方法................................................................................07 第二章美国AI陪伴的社会争议与治理趋势.....................................08 一、加西亚案争议：AI陪伴应用的掠夺性设计缺陷...........................09二、雷恩案争议：AI企业对安全保护的消极放任...............................11三、技术陷阱与监管漏洞：美国社会对AI陪伴应用的反思...............13 本报告通过比较两州法案发现，在具体规制路径上，两州均将透明性披露、危机干预和未成年人保护作为制度基础，但在具体问责路径上呈现出一定差异。与此同时，相关立法过程也暴露出美国社会当前在人机情感成瘾规制与是否面向全体用户的深层介入上仍受到既有法律与产业博弈的显著制约。相关立法文本的不足进一步引出本报告的核心问题：如果所谓的 AI 陪伴能够通过拟人化语境、关系性强化与选择式架构的动态引导，持续消解用户决策自主性，那么传统网络治理所依赖的“理性人”假设是否仍然成立？对此，本报告认为，AI 陪伴应用产生的风险具有过程性、关系性和累积性特征，需从一次性信息披露转向涵盖关系性风险识别、过程性防护、保护性摩擦与可纠错设计在内的脆弱性治理范式，以更好回应 AI 陪伴对用户理性、自主性与心理安全构成的深层挑战。 第三章美国AI陪伴治理规范：以加州和纽约州法案为例.................17 一、从透明性披露到问责制：纽约州与加州的规制路径..................18二、成瘾性规制的局限：美国法未成年人优先的路径与挑战..........23三、减法修订：两州法案背后折射科技企业与监管博弈..................31 第四章美国镜鉴：数智社会下“理性人”假设的祛魅与重塑..........34 一、“理性人”假设下的传统网络治理思路............................................35二、AI陪伴场景中用户理性决策的系统性消解...................................37三、脆弱性治理：数智时代的治理范式转型.......................................40 参考文献.........................................................................................44 出类似于人类的情感互动模式（Chou et al.,2025），并通过自然语言对话、个性化记忆、共情回应等方式，为人类提供陪伴与情感支持，乃至建构（伪）亲密关系，一定程度上满足了人类在孤独、压抑或社交缺失时的情感需求（Merrill, Kim & Collins, 2022）。如今，AI 伴侣的使用已成为当代数字社会中日益 显 著 的 现 象。 诸 如 Replika，Character.AI，Nomi.ai 等产品已广泛投入市场，许多用户将其视为朋友、导师或亲密关系对象，甚至有用户与其举行“虚拟婚礼”（Pentina,Hancock & Xie, 2023; Freitas, Uguralp,Uguralp & Stefano, 2026）。同时，这一趋势也在向青少年群体蔓延。根据美国非营利 性 组 织“ 常 识 媒 体”（Common SenseMedia）2025 年发布的一项报告显示，美国青少年群体中有 72% 使用过 AI 伴侣，其中52% 是忠实用户（Robb & Mann, 2025: 2）。 AI 企 业 的 所 在 地， 也 是 AI 陪 伴 技 术 创 新与应用的最前沿市场，近年来多起 AI 陪伴诱导极端事件的司法诉讼先后发生，揭开了平台设计缺陷和情感回应背后的诱导真相，也加速了州级层面的立法推进。有鉴于此，本研究报告将聚焦美国对 AI 陪伴的治理实践，以加西亚诉 Character.AI 案与雷 恩 诉 OpenAI 案 诉 讼 书、 纽 约 州《 人 工智能伴侣模型法》（Artificial IntelligenceCompanion Model Act，编入纽约州《一般商业法》第 47 编，以下简称“纽约州法案”）和加利福尼亚州《陪伴型聊天机器人法案》（Companion Chatbot Act， 即 参 议 院 第243 号法案，以下简称“加州法案”）等为研究样本，剖析美国对 AI 陪伴的治理原则，并进一步通过立法过程追踪考察科技企业与政府监管之间的博弈，揭示 AI 陪伴语境下独特的治理挑战。 第一章 AI 陪伴下的关系范式转移与治理议题 尽管 AI 陪伴技术在缓解当代社会的孤独感以及提供即时情感支持等方面展现出显著潜力，但其快速发展也带来了诸多不容忽视的负面效应，不仅局限于个体心理健 康（Emotional risks of AI companionsdemand attention, 2025），更蔓延至社会伦 理（Malfacini, 2025） 及 监 管（Branch,2025） 等 层 面。 美 国 作 为 OpenAI、Anthropic、xAI、 谷 歌（Google） 等 头 部 具体而言，本报告尝试回答如下几个问题：第一，美国社会在 AI 陪伴快速发展过程中出现了哪些主要争议？这些争议如何反映出技术驱动下人机情感互动的复杂性与风险？第二，面对上述争议，美国在司法诉讼和州级立法层面采取了哪些具体应对措施？第三，美国 AI 陪伴治理实践的背后，蕴含着怎样的核心思路与治理逻辑？这一治理思路是否能够有效抵御 AI 陪伴的风险？ 一、研究背景与问题提出 得益于生成式人工智能（特别是大语言模型）的爆发以及情感计算与多模态交互等技术的深度融合，人工智能陪伴（AI companion，下文简称“AI 陪伴”）应用在全球范围快速普及。AI 聊天机器人不仅展现出了与人类相似的能力，而且能够构建 等多模态数据实现识别。情感分析则更多针对文本内容（如社交媒体评论、产品评价），输出正面、负面或中性情感极性（polarity）。由于处于积极情绪状态的个体往往对环境持更开放视角，这两个研究领域之间存在显著交叉（Wang et al., 2022: 20）。 计算的技术进步使得计算机不仅能“读懂”人类情感，还能主动“回应”并“影响”人类情感。其不仅为 AI 伴侣提供了坚实的技术基础，更在实际应用层面显著让 AI 聊天机器人从单纯的交互性工具，逐步转向为以情感为纽带的关系性陪伴工具。 二、文献综述：AI 陪伴下的伪亲密关系与情感治理 于麻省理工媒体实验室（MIT Media Lab）发 表 了 一 篇 名 为《 情 感 计 算》（AffectiveComputing）的开创性报告，首次将“情感”与“计算”置于同一学术框架下讨论（1995）。随后在 1997 年，皮卡德在同名著作《情感计算》中首次给出了情感计算的明确定义：情感计算是指“与情感相关、源于情感或有意影响情感的计算”（1997: 249）。该书提出并阐述了如何赋予计算机（包括语音助手、机器人、智能体以及多种交互技术）情感智能。在后续探索如何客观测量情感相关数据的过程中，她和她的团队率先开发了可穿戴技术，用于在日常生活中监测和分析生理数据，从而在可穿戴设备、生理学以及身心健康的交叉领域催生了新的研究和发明。 （一）情感计算：AI陪伴的技术支撑 在方法论层面，情感计算经历了从传统单模态到新兴多模态的演进。情感计算的传统研究主要聚焦于单一信号源（如文本、语音、视觉等）的特征进行提取与建模，常常受限于数据规模小、自然度低及环境噪声干扰等问题。新兴研究则充分利用网络时代的海量数据，超越单一模态限制，转向大数据驱动的心理学维度分析，借助社交媒体、视频流等渠道挖掘群体情感，并结合时间序列演变与多模态融合进行研究，实现更精细的情感计算（清华大学人工智能研究院，北京智源人工智能研究院，清华—工程院知识智能联合研究中心，2019：13-27）。譬如，新兴的多模态系统能同时处理用户语音中的焦虑颤音并提取用户所表达话语中的消极词汇，以及观察用户的微表情，进而生成出可以匹配用户当下情绪状态的虚拟形象和语音回应（Li, 2025），甚至能和用户进行面对面式的眼神交流并产生情感共鸣，让用户具备更强的沉浸感和真实感。 （二）伪亲密关系：AI陪伴下人机关系的本质 情 感 计 算（affective computing） 是AI 伴侣的核心技术基础。这一技术路径试图让机器不仅理解人类的理性需求，更能感知、模拟并回应人类的情感世界，从而在人机交互中构建出近似于人际关系的“情感连结”。情感计算的理论根基可以追溯到人工智能先驱马文·明斯基（Marvin Minsky）。早在 1985 年，他在著作《心智社会》（TheSociety of Mind） 一 书 中 指 出：“ 问 题 不在于智能机器是否能拥有情感，而在于机器能否在没有情感的情况下保持智能。”明斯基将人类心灵视为由众多小型“主体”（agents）组成的动态社会，这些主体通过连接、竞争与协作实现复杂功能，而情感正是其中一种可被工程化的动态过程，可通过反馈、抑制与利用等机制加以模拟（Minsky,1985: 162-172）。而真正将“情感计算”作为独立领域进行研究的是罗莎琳·皮卡德（Rosalind Picard）。 在 此 之 前， 计 算 机学界主要将“情感”视作干扰变量，并不将其视为研究对象。而皮卡德认为，如果计算机要真正理解和辅助人类，它必须能够识别、理解甚至表达情感。1995 年，她 在与 AI 聊天机器人的交互中，用户倾注真实的个人经历、情感能量乃至金钱，AI 输出的则是基于大规模训练数据以及情感计算模型生成的模拟式共情。这种不对等的投入产出让用户承担了一种实质上的情感劳动，表面上看似拥有了理解自己的虚拟伴侣，实则获得的是“冷亲密”关系（赵云泽& 黄子婷，2025：63-64）或“残酷陪伴”（Cruel Companionship）（Muldoon &Parke, 2025）。提供 AI 聊天机器人的平台方则通过算法的持续优化，提高用户的物质与情绪投入，使用户的情感需求转化为可量化的指标，最终加剧了用户对 AI 伴侣非理性成瘾行为（Wang, 2023; Asia, 2025）。 此后情感计算研究逐渐发展，并分化为两大相互关联却又有所区别的子领域——情绪识别（emotion recognition）和情感分析（sentimen