2025年中国人工智能安全状况报告

核心观点

• 中国政府高度重视人工智能安全，并将其视为国家安全和公共安全的优先事项。官方话语中强调人工智能发展与安全相辅相成，反对将两者对立的观点。
• 中国正在通过不断完善的法规和标准体系来实施人工智能监管。虽然短期内不会出台综合性的“人工智能法”，但中国已发布详细的人工智能生成内容标签和水印规定，并继续实施现有的法规，要求对特定类型的人工智能模型进行预部署注册和安全测试。
• 中国的人工智能安全研究产出迅速增长，研究组数量显著增加，研究方向涵盖对齐、鲁棒性、监控和系统安全等前沿领域。
• 中国顶尖的人工智能会议对人工智能安全和治理的关注度显著提高，专家们对生物安全、网络安全和开源人工智能等领域的风险进行了深入分析。
• 中国领先的人工智能开发者大多签署了自愿的“人工智能安全承诺”，承诺在人工智能开发生命周期中实施安全措施。同时，一些公司也发布了技术模型发布说明和治理报告，以提高安全透明度。

关键数据

• 2024年5月至2025年5月，中国学者每月发表的人工智能安全论文数量从约11篇增加到约26篇，增长超过一倍。
• 截至2025年6月，中国共有31个关键的人工智能安全相关研究组，相比2024年5月的11个有了显著增加。
• 在中国顶尖的人工智能会议WAIC和WIC上，人工智能安全和治理议题的覆盖范围从2023年几乎翻了一番。

研究结论

• 中国在人工智能安全领域取得了显著进展，政府、学术界和产业界都在积极参与人工智能安全治理。
• 中国的人工智能安全研究实力不断增强，并在前沿安全研究领域取得了重要成果。
• 中国人工智能产业正在逐步建立自我治理机制，并积极参与国际人工智能合作。

未来展望

• 中国将继续加强对人工智能安全的监管，并完善相关法规和标准体系。
• 中国的人工智能安全研究将继续深入发展，并取得更多突破性成果。
• 中国将积极参与国际人工智能合作，推动构建人类命运共同体。