人工智能治理蓝皮书（2024年）

人工智能技术正处于高速发展阶段，产业规模、投融资、企业数量等方面均表现明显增长，但同时也面临着技术风险加剧、治理挑战增多等问题。本报告从新技术革命引发的经济社会发展变革和历史经验出发，在“以人为本、智能向善”理念指引下，基于产业链条、治理链条、价值链条等底层逻辑，从What、Why、Who、How四个维度搭建了人工智能治理体系框架。报告认为，人工智能治理应重点关注以下议题：

• 负责任创新：针对数据、模型、应用等产业链各个环节，存在高质量数据集供给难题、开源模型生态治理争议、应用场景分级分类不明确等问题，需要基于产业链的“要素+场景”治理，推动多维度促进可持续发展。
• 可持续发展：全球人工智能技术发展不平衡问题突出，南方国家在数字基础设施建设、数据获取、人才需求等方面存在劣势，需要弥合智能鸿沟，推动实现公平普惠的包容性治理，应对数字鸿沟、能源短缺等问题。
• 安全可控：人工智能技术风险加剧，需要全生命周期确保安全可控。报告建议细化落地透明度、红队测试、评估评测等工具，并建立健全事前事中事后全流程监管方案。
• 伦理先行：人工智能技术发展可能引发情感依赖、劳动替代、生存性风险等人机伦理风险，需要关注通用人工智能等技术发展带来的人类主体性危机，通过敏捷治理、动态监测的思路，提前研判人工智能对人类生活、生产乃至生存问题带来的冲击。

报告还分析了主要经济体人工智能治理模式，指出美国坚持促进创新的治理理念，欧盟正式出台人工智能立法，中国构建四大层级制度体系，并形成了监管备案、伦理审查和安全框架三个维度相互独立又紧密关联的制度保障体系。此外，报告还强调了企业和专业机构等主体在人工智能治理中的重要作用，以及国际人工智能治理日益深化，机制、议题、执行层面均呈现新的发展趋势。

最后，报告提出了深化落地人工智能协同敏捷治理模式、系统监测预警人工智能伦理社会影响、围绕要素和场景细化负责任创新方案、立足于全生命周期优化安全技术工具、加速落地全球人工智能能力建设方案等对策建议，以推动人工智能治理体系不断完善，促进人工智能健康发展。