吴世忠：迎接人工智能的安全挑战

AI的安全新挑战统筹发展与安全02.03. AI发展到关键期：三岁见大，七岁见老 AI是新质生产力 AI新质生产力：算力+模型+数据+应用 模型显智力 算力即权力 数据育能力 应用为势力 AI发展是硬道理 AI发展是强国建设、民族复兴的战略机遇 网、数、智全面推进，赋能百业千行，造福千家万户 AI焦虑引发全球关注，安全治理成为当务之急 安全保障发展 全球安全忧虑 安全治理共识 AI技术有高期待 未来已来，十大难题、亟待求解 开发既实用又安全并赢得公众信任的更有能力和更通用的AI（技术发展和安全问题） 负责任地开发、部署、使用和竞争AI（社会发展和安全问题） 1.解决AI中的科学技术限制及难题2.解决AI安全、鲁棒性和性能等问题3.将AI安全与控制等与人类目标对齐 7.确保社会负责任使用AI8.解决AI带来的地缘政治风险 让人类和社会系统在AI时代共同演进（人类发展和安全问题） 利用AI来解决人类最大的挑战并造福所有人（应用发展和安全问题） 谷歌前CEO施密特，1.5亿美元5年计划，资助杰出人才解决AI 2050年碰到的困难问题 4.让AI赋能人类解决重大的社会挑战5.解决AI带来的经济挑战和机会6.确保所有人参与AI的发展治理 9.构建治理体系驾驭AI发展10.探求AI时代人类生活的终极意义 开创安全新阶段 安全发展的三个阶段：IT驱动，DT驱动和AI驱动 科技变革巨浪迎面而来，安全风险隐患关乎全球 21世纪最大困境：颠覆性技术势不可挡，人类不得不因势利导 呈现安全新图景 安全新图景：Security + Safety+ Ethics 机器智能作为灵动因素，改变了安全的内涵和外延 AI已经系统性融入了网络攻防每个环节 AI助攻网络攻击 AI助力网络防御 Adversarial Threat Landscape for Artificial-Intelligence System 技术演进失控：出现幻觉，智能失常 出现幻觉 智能失常 AI技术涌现性，AI自身“黑盒”缺陷及可能出现的自主性风险 伦理问题新风险 技术伦理问题由来已久，唯有AI挑战惊世骇俗 伦理道德失范 军备竞赛失控 社会组织失序 安全保障新要求 AI提出安全保障新要求 需要一个更加安全、坚韧、可信的发展生态 AI新时代要建立辩证安全观、综合治理观和全球共治观 全球治理观 综合治理观 安全保发展，发展促安全 应对技术挑战，需要新技术 不断提升人工智能技术的自主、可控、安全、可靠能力 采用基于风险分级的韧性安全思维 AI时代，安全（safety和security）的韧性生态 韧性=风险承受能力+恢复发展能力+适应变革能力 开创新未来，推进新实践 通过最佳实践，解决伦理问题 结语 拥抱AI，注意安全