AI可信度分析

AI可信度分析 ©2024云安全联盟大中华区-保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https://www.c-csa.cn）。须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。 致谢 《AI可信度分析》白皮书由CSA大中华区AI模型可信度研究项目组专家和外部专家联合指导撰写，感谢以下专家的贡献： 组长： 高毅昂 专家组： 黄连金王维强黄磊黄挺杨大伟王皓闫峥李默涵闫斐崔世文包沉浮林琳 编委会： 田毓嘉游丽娜闫泰毓王杰陈鹏唐可可白佳奇胥迤潇刘刚李红程高磊郭建领 校验组： 吕鹂啸万米迪陈周建伍超敏方先行杨维彬方旭辉王佳楠田佳琦勒洮蔡逆水罗智杰王彦婷钟良志卜宋博姜禹尧温恒睿顾炘宇刘腾飞闭俊林 贡献单位： 中国电信集团有限公司云网基础设施安全国家工程研究中心西安电子科技大学广州大学网络空间安全学院蚂蚁科技集团股份有限公司北京百度网讯科技有限公司天翼云科技有限公司 （以上排名不分先后） 关于研究工作组的更多介绍，请在CSA大中华区官网（https://c-csa.cn/research/）上查看。 在此感谢以上专家及单位。如此文有不妥当之处，敬请读者联系CSA GCR秘书处给与雅正!联系邮箱research@c-csa.cn；国际云安全联盟CSA公众号。 序言 随着人工智能（AI）技术的迅速崛起，AI已经成为推动全球科技创新和社会进步的重要动力之一。从智能家居到无人驾驶、从医疗诊断到金融风控，AI技术正以前所未有的速度改变着各行各业的发展方式。然而，随着AI的广泛应用，技术本身的透明度、决策的公正性及系统的安全性等问题也逐渐浮出水面，成为社会各界关注的焦点。 AI应用的蓬勃发展带来了诸如模型盗窃、数据泄露、数据中毒等新的安全威胁。这不仅影响了企业的经济效益，更加剧了人们对AI系统可信度的担忧。特别是在医疗、司法和金融等高度依赖准确性和公正性的领域，AI决策的透明性与公正性问题尤为关键。随着AI技术愈加深刻地融入日常生活，全球对AI系统的可信性要求也在不断提高。 面对这些挑战，CSA大中华区发布了《AI可信度分析》报告，旨在为AI开发者、企业和政策制定者提供全方位的指导和标准体系。本报告从可靠性、安全性、透明性和公平性四大维度，系统性地分析了AI技术在实际应用中的可信性问题，并深入探讨了提高AI系统可信度的策略和方法。报告不仅评估了AI技术在不同领域的现状，还结合全球标准、行业实践及最新的技术进展，提出了一系列具体的改进措施。 在数字化转型深入进行之际，发展可信的人工智能已成为全球共识。通过本报告的发布，我们希望为政策制定者、行业从业者以及研究人员提供有价值的参考，合力推动AI技术朝着安全可信的方向不断发展进步。 李雨航Yale Li CSA大中华区主席兼研究院长 目录 1引言...............................................................................................................................................10 1.1研究背景与重要性.................................................................................................10 1.1.1人工智能发展为社会发展注入新动能.....................................................101.1.2人工智能应用引发可信危机.......................................................................101.1.3可信人工智能成为全球共识.......................................................................12 1.2报告目的与研究问题.............................................................................................13 2.2.1联合国................................................................................................................172.2.2美国.....................................................................................................................172.2.3英国.....................................................................................................................172.2.4欧盟.....................................................................................................................182.2.5其他国家............................................................................................................182.2.6国际标准............................................................................................................182.2.7企业标准及框架..............................................................................................182.2.8学术研究............................................................................................................19 2.3WDTA AI相关标准工作.............................................................................................19 2.3.1生成式AI应用安全标准...............................................................................192.3.2大语言模型安全标准.....................................................................................212.3.3大模型供应链安全标准................................................................................21 3AI的应用现状分析...................................................................................................................22 3.1AI赋能千行百业........................................................................................................22 3.1.1AI分类及应用行业总览.................................................................................223.1.2AI在重点行业的应用情况............................................................................24 3.2现有AI大小模型可信度问题带来的挑战......................................................26 3.2.1AI全生命周期面临的安全风险...................................................................273.2.2AI应用实践与推广造成的社会危机..........................................................28 3.3典型案例分析..........................................................................................................28 4AI可信度评估方法...................................................................................................................30 4.1.1数据来源............................................................................................................304.1.2数据清洗............................................................................................................304.1.3数据质量评估...................................................................................................314.1.4数据标注............................................................................................................314.1.5数据增强............................................................................................................32 4.2模型设计与开发过程.............................................................................................32 4.2.1模型设计与开发过程...........................................