人工智能风险治理报告（2024年）-构建面向产业的人工智能安全治理实践方案

一、概述 人工智能技术发展迅速，在带来巨大红利的同时也引发了全球性的风险挑战。当前，人工智能风险治理成为国际社会共同关注的课题，各国政府、国际组织和产业界都在积极探索治理路径。然而，现有治理模式面临技术快速演变、产品跨境应用、链条主体复杂等挑战，亟需创新治理模式，推动面向产业界的人工智能风险治理落地框架。

二、人工智能风险认知渐进深化 人工智能风险认知正从单一维度向多维度深化融合，具体表现为全球性融合、前瞻性考量、系统性分析和交叉性联动。人工智能风险包括内生安全风险和衍生安全风险，两者相互交织，对个人、组织、社会乃至全人类都可能带来严重后果。

三、人工智能风险治理全球实践 国际层面，联合国、金砖国家、经合组织等国际组织以及人工智能安全峰会等平台都在积极推动人工智能风险治理行动及合作。主要经济体如欧盟、美国、英国、新加坡和中国等都根据自身情况，迭代完善了人工智能风险划分与管控举措。产业组织如NIST、AI Now研究所和中国信通院等正在协同推进治理框架和安全工具的研发与应用。企业主体也在积极探索深化技管融合的风险应对方案。

四、面向产业的人工智能风险治理实践方案 本报告提出了“系统治理-风险识别-风险评估-风险应对”的人工智能风险治理实践框架，旨在为组织提供一套切实可行的治理方案。框架强调通过制度完善、文化建设和外部协作来提升系统治理能力，同时聚焦技术、应用和管理三个层面的风险识别、评估与应对，构建全链条的治理体系。具体包括打造全链条人工智能风险治理框架、提升人工智能风险系统治理能力、设立人工智能风险精准识别机制、健全人工智能风险科学评估体系和完善人工智能风险敏捷应对方案。

五、展望建议 为了推动人工智能技术的安全发展与风险治理，本报告提出了以下四方面的建议：促进全球合作，共筑人工智能治理新格局；优化治理体系，夯实人工智能安全发展基础；发挥桥梁作用，推进行业治理标准化与动态化；强化内外协同，助力技术创新与责任共担。