2025人工智能治理年度报告：迈向“可衡量”的AI治理

2025年人工智能发展与治理回顾及建议

人工智能发展回顾

• 技术探索：AI从数字领域迈向物理世界，探索通用人工智能（AGI）的技术路径包括智能体、世界模型、空间智能和具身智能。具身智能在自动驾驶等领域开始有限规模应用，但面临可靠性和责任界定等挑战。大模型向智能体演进，实现自主规划和决策，但存在失控和信任风险。
• 产业生态：开源模型（如DeepSeek）普及，加速技术扩散，但伴随滥用风险和合规问题。产业智能化转型加速，但准确性和人机信任成为新瓶颈。
• 基础设施：AI基础设施建设提速，但算力竞争和能源约束成为双瓶颈。全球算力迈入“ZFLOPS”时代，但资源地缘化聚集，竞争激烈。数据中心能耗巨大，容量缺口问题凸显。

人工智能治理回顾

• 国家层面：全球AI治理部署加速，中国、美国和欧盟分别采取不同策略。中国强调发展与治理结合，美国放松监管以加速发展，欧盟则并行推进监管和基础设施建设。
• 政府间层面：联合国积极构建全球AI治理框架，设立相关机制，但实际影响力有限。传统多边机制（如G7、G20）议程分化，区域特色明显。新型专门机制（如AI安全峰会）成果有限，议程延续性面临挑战。
• 非国家行为体：科学共同体推动跨国安全共识，发布《国际AI安全报告》和“上海共识”，强调AI安全和对齐。科技企业积极构建行业自律机制，如签署《中国人工智能安全承诺框架》。

现状总结

• AI技术深度嵌入社会，但治理效能不足，二者差距拉大。高自主AI决策风险、具身智能责任问题、开源模型滥用、算力能源竞争和人机信任危机是主要挑战。
• 治理滞后于技术发展，源于新兴技术不确定性、战略认知割裂、国家竞争逻辑压制和治理能力不足。

行动建议

• 支持适应性治理框架探索：通过监管沙盒和标准前置，增强治理体系对技术不确定性的适应能力。
• 探索并锚定合作“锚点”：在AI安全、对齐、基础科学等共同利益领域建立常态化对话与合作机制。
• 强化非国家行为体的治理角色：支持科学共同体和行业组织制定标准、伦理规范，推动企业升级安全自律框架。
• 迈向可衡量的治理：建立系统化、可量化的治理评估框架，以对齐认知、诊断问题、引导投资和促进规则互认。