AI组织责任：核心安全责任

“AI组织责任工作组”的永久的官方网址是https://cloudsecurityalliance.org/research/working-groups/ai-organizational-responsibilities ©2024云安全联盟大中华区——保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网(https://www.c-csa.cn)。须遵守以下:(a)本文只可作个人、信息获取、非商业用途;(b)本文内容不得篡改;(c)本文不得转发;(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。 目录 致谢..............................................................6序言..............................................................9前言.............................................................10介绍.............................................................11职责角色定义.....................................................21规范性引用文件...................................................24一、将数据安全和隐私纳入人工智能训练............................251.1数据真实性和许可管理..........................................261.2匿名化和假名化................................................271.3数据最小化....................................................281.4数据访问控制..................................................291.5安全存储和传输................................................30二、模型安全....................................................312.1模型访问控制..................................................312.1.1身份验证和授权框架......................................322.1.2模型接口速率限制........................................332.1.3模型生命周期管理中的访问控制............................332.2安全的模型运行环境............................................352.2.1基于硬件的安全功能......................................352.2.2网络安全控制............................................362.2.3操作系统级加固和安全配置................................372.2.4K8s与容器安全..........................................382.2.5云环境安全..............................................392.3漏洞和补丁管理................................................402.3.1机器学习代码完整性保护..................................402.3.2机器学习训练和部署代码的版本控制系统....................422.3.3利用代码签名验证获批版本................................432.3.4基础设施即代码方法......................................452.4MLOps流水线安全...............................................462.4.1源代码漏洞扫描.........................................472.4.2测试模型对攻击的鲁棒性.................................482.4.3验证每个阶段的流水线完整性.............................492.4.4监控自动化脚本.........................................50 2.5AI模型治理....................................................522.5.1模型风险评估...........................................522.5.2业务审批程序...........................................532.5.3模型监控要求...........................................542.5.4新模型验证过程.........................................552.6安全模型部署..................................................562.6.1灰度发布...............................................562.6.2蓝绿部署...............................................572.6.3回滚功能...............................................572.6.4模型退役...............................................58三、漏洞管理....................................................593.1AI/ML资产清单.................................................593.2持续漏洞扫描..................................................613.3基于风险的优先级排序..........................................623.4修复跟踪......................................................633.5异常处理......................................................643.6报告指标......................................................66结论.............................................................68缩略语...........................................................70 致谢 报告中文版支持单位 联通（上海）产业互联网有限公司于2018年3月成⽴，注册资金10000万元，是中国联通在上海市成立的具有独立法人资格的全资子公司。公司积极顺应国家推动经济社会数字化、智能化发展的要求，正确认识和把握内外部科技发展环境新变化，坚持把创新作为引领发展的第⼀动力，聚焦5G时代发展的新机遇，以科技赋能差异化竞争与高质量发展。公司通过整合5G、⼈工智能、大数据、ICT、IDC、云计算、物联网等能力，聚焦电子政务、工业互联网、智慧教育、智慧城市、智慧民⽣、文旅、交通物流、新商业等重点领域，为政府和各⾏各业客户提供从智能连接、云平台到大数据应用的个性化解决方案和集成运营⼀站式服务。2023年公司总收入6.4亿元，净利润为7415万元。2023年从业人员总数为432人，其中研发人员近70%。全面承接生活数字化转型重点场景建设，标杆项目先行先试，形成示范效应，全面参与上海城市升级、产业升级，是上海建设智慧城市的领跑者之⼀。 参与本次报告的专家： 朱奕健：联通（上海）产业互联网有限公司副总经理李亚杰：联通（上海）产业互联网有限公司云安全专家吴振宏：联通（上海）产业互联网有限公司云安全运营负责人沈爽：联通（上海）产业互联网有限公司云安全专家 联通（上海）产业互联网有限公司是CSA大中华区理事单位，支持该报告内容的翻译，但不影响CSA研究内容的开发权和编辑权。 报告英文版编写专家 ChrisKirschkeMaduraMalwatteMadhaviNajanaRajithNarasimhaiahGabrielNwajiakuGovindarajPalanisamyMeghanaParwatePareshPatelRangelRodriguesMichaelRozaLarsRuddigkeitDavideScattoMariaSchwengerMjBhuvaneswari SelvaduraiHimanshuSharmaAkshayShettyNishanthSingarapuAbhinavSinghDr.ChantalSpleissPatriciaThaineEricTierlingAshishVashishthaPeterVenturaJiewenWangWickeyWangUdithWickramasuriyaSounilYu 主要作者 JerryHuangKenHuang 贡献者/联合主席 KenHuangNickHamiltonChrisKirschkeSeanWright 审稿人 CandyAlexanderLlangoAllikuzhiErayAltiliAakashAlurkarRomeoAyalinRenuBediSauravBhattacharyaSergeiChaschinHongChenJohnChiuSatchitDokrasRajivGunjaHongtaoHao,PhDGraceHuangOnyekaIllohKrystalJacksonArvinJakkamReddyReddySimonJohnsonGianKapoorBenKereopa-Yorke CSA全球员工 MarinaBregkouSeanHeideAlexKaluzaClaireLehnertStephenLumpe 序言 在数字化时代，人工智能（AI）与机器学习（ML）技术正以惊人的速度重塑我们的工作与生活，并深刻影响全球经济与社会结构。随着AI技术的广泛应用，安全性、可靠性和合规性问题日益受到关注。作为云计算和AI安全领域的领导者，CSA致力于推动行业安全标准与最佳实践的制定和实施。我们深知，随着AI与ML系统的发展，组织在保障安全方面肩负着重要责任。 在此背景下，CSA发布了《AI组织责任：核心安全责任》白皮书，深入探讨AI和ML系统在组织责任、信息安全和网络安全中的关键问题，并提供了全面的框架与指导，旨在帮助企业构建