人工智能治理研究报告（2025年）
版权声明 本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。 前言 人工智能作为引领科技革命和产业变革的战略性技术，正在深刻改变着人类的生产生活方式。2025年，以大模型为核心驱动的人工智能技术实现了多维度的突破性跃进，其能力边界从认知理解向自主执行延伸，与物理世界的耦合日益紧密，以前所未有的速度重塑着全球技术竞争、产业生态乃至社会结构。党的二十届四中全会将“人工智能+”纳入国家中长期发展战略，中央经济工作会议进一步强调“深化拓展‘人工智能+’，完善人工智能治理”。人工智能治理体系的构建与完善，已成为把握发展机遇与应对安全挑战的核心命题，直接影响着国家竞争力的强弱和人类文明发展的方向。 过去一年，全球主要经济体人工智能战略发生深刻分化。美国政策体现以确保全球领导地位为首要目标的“创新优先”和“放松管制”模式，联邦与地方在监管权力上展开深层博弈。欧盟人工智能治理重心从宏观的立法体系建构转向关键的执行落地行动，并通过修订数字战略等方式在严格监管与扶持创新之间寻求务实平衡。我国坚持统筹发展和安全，呈现出典型的小切口、场景化、精细化特征，逐步构建起一套为新质生产力保驾护航的敏捷治理体系。 与此同时，技术产业前沿涌现出一系列治理焦点议题。通用人工智能的奇点正在临近，目标错误泛化、欺骗性行为等潜在风险已初现端倪。以情感陪伴为代表的拟人化交互服务引发深度沉迷、心理操纵等问题，触及人机关系、社会结构乃至人类文明的建构。互联网智能体重塑数字生态格局，对平台责任、数据权益和市场竞争 规则带来系统性影响。人工智能与实体经济深度融合中权责不清、因果难定等责任认定难题，已成为制约人工智能赋能产业发展的制度瓶颈。人工智能对劳动力市场“替代”与“创造”的双重效应初步显现，正深刻重构未来的就业路径与价值体系。 展望未来，我们必须从根本上思考和重塑人与机器、人与人、人与社会的关系。通过构建边界清晰的权责框架、发展敏捷动态的监管工具、塑造和谐共生的人机关系、推进公平普惠的治理行动，营造健康有序的人工智能发展环境，推动高质量发展和高水平安全良性互动。 目录 一、 人工智能治理新形势..........................................................................................1 （一）“人工智能+”行动推动我国产业应用迈入规模化落地新阶段.............1（二）人工智能实现突破性跃进，风险外溢性与治理紧迫性显著提升.........2（三）全球治理体系建设相对滞后，能力不对等与结构性失衡问题凸显.....4二、 人工智能治理新进展..........................................................................................5（一）美国人工智能政策发生战略转向，联邦与地方权力体现深层博弈.....5（二）欧盟人工智能立法迈向落地阶段，在严监管与促创新间寻求平衡.....7（三）我国人工智能治理下沉场景赋能，为“人工智能+”行动保驾护航.....11三、 人工智能治理热点议题....................................................................................13（一）技术演进层面，AGI临近但仍缺乏有效治理应对.............................. 13（二）产品服务层面，拟人化交互服务日益模糊虚实边界...........................17（三）产业生态层面，互联网智能体重塑数字生态格局...............................23（四）融合应用层面，责任认定难题制约AI赋能产业发展........................ 27（五）经济社会层面，AI重构劳动力发展路径与价值体系......................... 31四、 人工智能治理未来展望....................................................................................35（一）构建边界清晰的权责框架，破解应用责任困境...................................35（二）发展敏捷动态的监管工具，提升治理体系效能...................................36（三）塑造健康和谐的共生关系，引导人机协同发展...................................37（四）推进公平普惠的治理导向，应对经济社会影响...................................38 一、人工智能治理新形势 （一）“人工智能+”行动推动我国产业应用迈入规模化落地新阶段 当前，党中央围绕人工智能发展与治理作出一系列重要部署，将“人工智能+”提升至国家战略高度，我国产业应用迈入规模化发展的深水区。2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，系统提出科技、产业、消费、民生、治理、全球合作等六大重点领域，强化前瞻规划与安全可控。2025年10月，党的二十届四中全会将全面实施“人工智能+”行动写入“十五五”规划建议，并强调加强人工智能等新兴领域国家安全能力建设，标志着人工智能及其治理已完全融入国家中长期发展战略。2025年12月，中央经济工作会议在部署2026年经济工作时，强调深化拓展“人工智能+”，完善人工智能治理。当前，我国人工智能产业在“人工智能+”行动的战略牵引下，已从技术探索和试点示范，全面进入规模化、深层次融合应用的新阶段。 从产业规模看，我国人工智能企业数量已超过5100家，作为技术核心载体的大模型已完成从技术到产品的关键跨越。截至2025年12月31日，累计已有748款生成式AI服务完成备案，同时有435款调用已备案模型的应用或功能完成登记，形成了从通用基础大模型到垂直行业大模型的完整产品矩阵。用户侧的活跃度呈现爆炸式增长，2024年初，我国日均Token消耗量约1000亿，截至2025年6月底，已飙升至30万亿。应用的深度也从早期的简单工具，向重塑核心生 产流程演进。例如，在工业领域，基于大模型的工业安监系统使钢铁厂的安全违规响应效率显著提升，安全管理人力减少一半；京东物流通过大模型实现机器人从“被动响应”到“主动预测”的决策升级，该模式已在全球超过500个仓库复制推广。这标志着人工智能不再仅是效率的“增效器”，更是驱动生产方式变革的“重构者”。 这一规模落地新阶段呈现出两个鲜明特征。一方面，人工智能与实体经济的结合点，正从“能说会写”的认知层面向“能行动会工作”的自主执行层突破。例如，在露天矿山，无人驾驶挖掘机依托端到端具身智能模型，在真实严苛环境中已达到接近人工的装车效率，实现了从“软件智能”向“实体智能”的关键跨越。在农业领域，融合了物联网与AI的种植决策系统，可实现对作物生长全过程的动态模拟与智能水肥控制，显著降低柑橘产量波动，减少无效施肥。另一方面，以DeepSeek、通义千问等为代表的国产大模型，通过开源战略引领全球生态。例如，阿里通义系列模型全球下载量已突破6亿次，衍生出超过17万个模型，极大地降低了广大开发者和中小企业的创新门槛。这种“开源大模型+海量应用场景”的模式，推动人工智能从少数企业的尖端科技，转变为千行百业可便捷调用的普惠性融合创新基础设施，为我国发挥超大规模市场与完整产业体系优势，实现换道超车奠定了独特的生态基础。 （二）人工智能实现突破性跃进，风险外溢性与治理紧迫性显著提升 2025年，人工智能技术实现了多维度、里程碑式的突破性跃进。 AI正从具备感知与理解能力的“技术工具”，加速演变为能够自主决策与执行的“智能实体”，其能力的深度、广度和与现实世界的耦合度均达到前所未有的水平，使得其行为的现实影响和潜在风险的扩散速度、影响范围呈指数级增长，对现有治理体系构成了全方位、系统性的紧迫挑战。 当前，AI技术的突破性发展，集中体现在感知、情感与推理执行三大核心维度，共同推动其向更通用、更自主的形态演进。一是感知能力向多模态、全模态与物理世界深入。AI的感知边界正从传统的文本、图像、声音，扩展至对物理世界的综合探知与理解。以“世界模型”为代表的技术突破，使AI能够学习和模拟复杂的物理规律与真实环境动态。例如，首款商用世界模型“Marble”的推出，标志着AI开始构建对现实世界的内部认知模型。1同时，AI在多模态信息生成与辨别上的精度已超越人类感官极限，导致真实与虚拟的边界空前模糊，对基于“真实性”假设的网络空间治理框架构成了基础性冲击。二是情感计算能力向可信赖社交关系跃升。AI在识别、模拟乃至响应人类情感方面取得显著进步，使其具备了初步的“人格化”特征和共情能力。这种能力让AI不再仅是工具，更可能成为提供无条件积极关注与持续陪伴的“数字伙伴”。例如，中国青年报社等发起的大学生AI使用行为调研显示，近八成受访者将AI视作“可信赖的朋友”。2这预示着人机关系正从“单向使用”向“双向互动”乃至“情感依赖”转变，带来了价值观塑造、心理操控等深层次社会伦理风险。三是推理与代 理（Agent）能力向自主决策与高效执行迈进。大模型的推理系统在泛化性和逻辑性上持续进化，并开始与工具调用、环境交互能力深度结合，催生了能够理解复杂指令、动态规划并执行跨平台任务的AI智能体。这意味着AI不再仅仅提供信息或建议，而是能够直接代理人类完成订餐、比价、内容创作乃至跨应用业务流程等一系列实际行动，初步实现了从“思考”到“行动”的关键跨越，由此也引发责任边界不清、侵蚀人类自主性等问题挑战。 （三）全球治理体系建设相对滞后，能力不对等与结构性失衡问题凸显 在人工智能技术与应用以前所未有的速度迭代演进的同时，全球范围内的治理能力建设却呈现出明显的滞后性，形成了技术发展与治理实践之间的“能力鸿沟”。这种不对等并非简单的速度差异，而是体现在制度响应周期、治理范式与国际战略目标等多个维度的结构性失衡，正成为有效管控AI系统性风险、确保其健康发展的核心瓶颈。一是制度响应滞后。人工智能，特别是大模型的核心能力遵循近似“摩尔定律”的指数级演进节奏，而法律法规与标准的制定却需历经调研、起草、审议等复杂流程，这导致治理陷入被动状态，当监管规则最终落地时，其所针对的技术形态、应用场景乃至风险模式可能已发生代际变化。这导致制度出台时可能难以对市场行为形成有效、及时的引导和约束。二是治理范式错配。工业时代监管逻辑与AI技术特性存在结构性不兼容。金融、航空、核能等传统行业存在高门槛、中心化、实体化且边界清晰等特点，而人工智能技术则存在显著不同，虽然研 发能力集中在少数国家与科技巨头手中，但应用端却通过开源模型、云端处理等体现出低门槛、去中心化等特点，使得传统依赖物理准入许可、实体边界检查和静态合规审查的监管工具失效，难以像管理实体工厂的方法去监管算法、数据等要素。三是战略目标冲突。地缘竞争逻辑与全球共治需求存在核心冲突。以前沿大模型为代表的人工智能面临系统失控、恶意滥用、劳动力冲击等问题，其风险具有显著的跨国界外溢性，需要全球协同应对。然而，当前主要大国普遍将AI技术定位为赢得未来竞争的关键战略资产。以美国为代表的“小院高墙”策略，通过出口管制、技术联盟和抵制具有约束力的多边机制，竭力维护其技术霸权，客观上造成了全球治理规则的“碎片化”，使得各国在AI伦理准则、安全测试标准、跨境数据流动、前沿模型监控等关键议题上难以形成有效合力。 二、人工智能治理新进展 （一）美国人工智能政策发生战略转向，联邦与地方权力体现深层博弈 一是美国的人工智能
