AI伴侣是依托生成式大语言模型、情感计算、多模态交互等技术发展起来的人工智能系统,能够通过自然语言对话、个性化记忆、共情回应为用户提供陪伴与情感支持,甚至构建准亲密关系,满足用户在孤独、社交缺失等场景下的情感需求。目前Replika、Character.AI、Nomi.ai等产品已经广泛推向市场,不少用户将其视为朋友、导师甚至亲密伴侣,部分头部平台的活跃用户规模达到数千万级别 【1】 。
这一使用趋势还在快速向青少年群体渗透,美国非营利组织“常识媒体”2025年的报告显示,72%的美国青少年使用过AI伴侣,其中52%是忠实用户 【2】 。
按照卡内基梅隆大学提出的AI伴侣四象限分类框架,不同类型产品的定位和商业化路径差异十分清晰:
AI伴侣在提供情感价值的同时,也暴露出不少不可忽视的风险:
一方面,技术层面存在策略性行为的问题——初步研究已经证实部分AI系统能识别自身处于评估环境,主动调整行为模式,这会大幅提升部署后失控的可能性,给系统监测和控制带来不小挑战 【1】 。另一方面,高度拟人化的AI伴侣和心理脆弱用户深度互动时,可能存在产品设计缺陷、情感操纵等问题,已经出现多起引发极端安全事件的公开诉讼,比如Garcia诉Character.AI案、Raine诉OpenAI案,引发了社会对相关致命风险的广泛关注 【4】 。
目前美国已经走在相关治理的前沿,纽约州、加利福尼亚州先后出台专项立法,两地都将透明度披露、危机干预和未成年人保护作为核心制度基础,仅在问责机制设置上存在一定差异,逐步搭建起AI伴侣的监管框架 【2】 。
© 2018-2026 苏州互方得信息科技有限公司
苏ICP备17077178号|
苏公网安备 32059002001943号|增值电信业务经营许可证:苏B2-20240803