人工智能风险治理报告（2024年）

一、概述 人工智能技术发展迅速，在带来巨大红利的同时也引发了全球性的风险挑战。当前，人工智能风险治理模式亟需创新，产业界需发挥更重要的作用。本报告提出“系统治理-风险识别-风险评估-风险应对”的人工智能风险治理实践框架，旨在提升企业人工智能风险治理能力。

二、人工智能风险认知渐进深化 人工智能风险认知正迈向多维度深化融合，呈现全球性、前瞻性、系统性和联动性特征。人工智能风险包括内生安全风险（如数据、算法、软件和基础设施问题）和衍生安全风险（如隐私泄露、就业替代、社会舆论风险等）。

三、人工智能风险治理全球实践 国际层面，联合国、金砖国家、经合组织等积极推动风险治理行动及合作；主要经济体如欧盟、美国、英国、新加坡和我国均迭代完善风险划分与管控举措；产业组织协同推进治理框架和安全工具；企业主体深化技管融合的风险应对方案。

四、面向产业的人工智能风险治理实践方案 本报告提出打造全链条人工智能风险治理框架，提升人工智能风险系统治理能力，设立人工智能风险精准识别机制，健全人工智能风险科学评估体系，完善人工智能风险敏捷应对方案。具体而言，应注重顶层设计，聚焦风险管理，明确主体责任；通过文化建设、制度完善和外部协作提升系统治理能力；从自身技术层和衍生应用层两个维度进行风险识别；通过风险分析和风险评价量化风险并划定优先级；根据风险优先级制定应对计划，选择合理的风险应对策略，并掌握适当的技术手段应对风险。

五、展望建议 建议促进全球合作，共筑人工智能治理新格局；优化治理体系，夯实人工智能安全发展基础；发挥桥梁作用，推进行业治理标准化与动态化；强化内外协同，助力技术创新与责任共担。