吴世忠：迎接人工智能的安全挑战

AI与安全：从挑战到机遇

引言

人工智能（AI）正引领新的时代，其发展正处于关键期。AI不仅被视为新质生产力的核心，还被赋予了“算力+模型+数据+应用”的概念，其中算力象征着力量，模型体现智力，数据培育能力，而应用则代表影响力。变形金刚的概念将大语言模型视为母体，预示着AI的未来可能耗尽人类的数据资源，而算力则成为国力的重要象征。

安全问题凸显

AI的安全问题引起了全球的关注，成为当前的紧迫议题。全球范围内的安全忧虑促使形成共识，强调在确保发展的同时加强安全治理。科学家、企业家和全球民众都对此表达了深切的关切，推动了全球安全治理的共识形成。

全球安全治理行动

面对AI技术的高期待与潜在风险，全球范围内启动了一系列旨在解决AI挑战的项目，包括：

• 技术创新与难题解决：聚焦于科技限制、安全、鲁棒性、性能、与人类目标对齐、经济影响、公平性、社会责任、地缘政治风险以及人类生活意义。
• 长期规划与资助：谷歌前CEO发起了一项1.5亿美元、为期5年的计划，旨在解决2050年AI可能面临的困难问题。

安全新阶段与技术特点

AI安全与发展进入了一个新阶段，从传统的IT驱动、DT驱动到AI驱动，安全风险和挑战也随之演变。AI技术展现出颠覆性、迭代性、非对称性、通用性和自主性，重塑了安全的内涵与外延。非传统安全转变为传统未知的新兴安全，AI技术成为安全图景中不可或缺的因素。

新的安全要求与挑战

AI提出了对安全的新要求，包括个人应用的谨慎、社会推广的安全性、国家层面的发展防控、国际治理的协调等。同时，AI安全面临个人应用、社会推广、国家发展等多方面的挑战，尤其是在地缘政治风险、伦理道德、组织秩序等方面。

新思维与实践

为应对AI时代的挑战，提出了辩证安全观、综合治理观和全球共治观，强调在发展与治理之间找到平衡。面对技术挑战，需提升AI的自主可控能力，并采用韧性安全思维。适应AI时代的新环境，发展新能力，如构建韧性安全生态，通过AI助力服务与客户系统的安全。

结论

在拥抱AI的浪潮中，安全问题同样不容忽视。通过最佳实践解决伦理问题，AI伦理技术和非技术方法的结合，可以促进AI的健康发展与广泛应用，确保技术进步的同时维护社会安全与福祉。