前沿人工智能安全与治理2026：风险认知与协同治理

这份研报主要探讨了前沿人工智能（FrontierAI）快速发展带来的安全与治理挑战。报告指出，随着AI能力提升和应用拓展，风险事件日益增多，从2024年的约2700起增至2025年的约4600起，2026年第一季度已超4600起。报告分析了滥用与犯罪、信息完整性、关键系统等已转化为现实危害的风险，以及社会认知、结构、灾难性等长期累积或潜在后果重大的风险。此外，报告评估了全球24个国家在AI治理方面的就绪度，发现多数国家在制度与组织方面准备相对充分，但在技术安全评测、验证合规、责任落实与生态治理方面存在明显短板，且风险事件通报共享、应急响应、跨境信息通报等能力缺口突出。应对这些风险需要多方协作，明确分工，推动风险证据、责任记录和处置信息顺畅流转，并加强评测、核验和风险响应能力。

人工智能行业未来发展趋势呈现快速发展和应用拓展的特点。关键数据显示，2023年至2025年，各行业使用人工智能的企业比例普遍上升，信息和通信业以及专业、科学和技术服务业中已超过四成企业应用AI技术。AI能力的提升不仅推动了技术创新，也带来了日益复杂的安全与治理挑战，如风险事件频发、就业结构变化等。韩国央行研究显示，2022年6月至2026年6月，韩国15—29岁青年就业岗位减少28.5万个，其中26.8万个集中在AI暴露度较高的行业。这表明AI技术的应用正深刻影响行业格局和劳动力市场，未来需要更加关注其社会影响和风险管控。

研报重点分析了前沿人工智能（FrontierAI）的风险认知与协同治理方向。报告从风险事件、行业应用、社会影响、治理现状等多个维度展开分析。在风险事件方面，报告追踪了2024年至2026年AI风险事件的增长趋势，并指出其正从单点、局部问题演变为跨场景、跨主体、跨边界的复合性挑战。在行业应用方面，报告关注了信息和通信业、专业、科学和技术服务业等AI应用比例超过四成的行业，并分析了其带来的就业结构变化等社会影响。在治理现状方面，报告评估了24个国家在AI治理方面的就绪度，发现多数国家在制度与组织方面准备相对充分，但在技术安全评测、验证合规、责任落实与生态治理方面存在明显短板，且风险事件通报共享、应急响应、跨境信息通报等能力缺口突出。

当前人工智能市场现状呈现快速发展与风险并存的态势。一方面，AI技术能力持续提升，应用场景不断拓展，推动各行业数字化转型。数据显示，2023年至2025年，信息和通信业以及专业、科学和技术服务业中应用AI的企业比例已超过四成，AI正成为推动产业升级的重要力量。另一方面，AI安全与治理挑战日益凸显。报告指出，2024年约2700起AI风险事件，2025年约4600起，2026年第一季度已超4600起，滥用与犯罪、信息完整性、关键系统等风险已转化为现实危害。此外，AI技术对就业结构的影响也日益显现，如韩国央行研究显示，2022年6月至2026年6月，韩国15—29岁青年就业岗位减少28.5万个，其中26.8万个集中在AI暴露度较高的行业。这些数据表明，AI市场在快速发展的同时，也面临着日益复杂的风险挑战。

研报提示了前沿人工智能（FrontierAI）发展带来的多重风险，需要引起重视。首先，AI风险事件频发且日益复杂，从单点、局部问题演变为跨场景、跨主体、跨边界的复合性挑战，如滥用与犯罪、信息完整性、关键系统等风险已转化为现实危害。其次，AI技术对社会结构的影响正在逐步显现，如就业结构变化、青年就业岗位减少等长期影响正在累积。第三，当前各国对AI风险的治理基础虽已初步形成，但在评测、核验、责任落实等关键环节仍有明显短板，多数国家在技术安全评测、验证合规、责任落实与生态治理方面相对薄弱，且风险事件通报共享、应急响应、跨境信息通报等能力缺口突出。这些风险提示表明，应对AI发展需要加强前瞻准备，形成合力，推动多方协作，明确分工，推动风险证据、责任记录和处置信息顺畅流转，并加强评测、核验和风险响应能力。