以零信任应对AI部署中的影子访问风险

身份和访问管理工作组的永久和官方地址是 @2024云安全联盟大中华区－保留所有权利。你可以在你的电脑上下载.储存.展示.查看及打印，或者访问云安全联盟大中华区官网（https://www.c-csa.cn）。须遵守以下：（a）本文只可作个人.信息获取.非商业用途；（b）本文内容不得篡改；（c）本文不得转发；（d）该商标.版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。 致谢 《以零信任应对AI部署中的影子访问风险》由CSA工作组专家编写，CSA大中华区零信任工作和IAM工作组共同组织翻译并审校。 中文版翻译组成员 翻译组组长： 陈本峰 审校组成员： 戴立伟于继万谢琴陈珊 研究协调员： 郑元杰易利杰 贡献单位： 深圳竹云科技股份有限公司北京天融信网络安全技术有限公司华为技术有限公司 英文版本编写专家 主要作者： HeinrichSmit 贡献者： IvanDjordjevic MichaelRoza 审校者： AakashAlurkarSuramyaBakshiAlanCurranMScChrisKirschkeArvinReddyJakkamreddyRangelRodriguesLarsRuddigkeitAkshayShettyDr.ChantalSpleissSrinivasTatipamula CSA全球员工： RyanGiffordClaireLehnertStephenLumpe 在此感谢以上专家。如译文有不妥当之处，敬请读者联系CSAGCR秘书处给予改正！ 联系邮箱research@c-csa.cn；云安全联盟CSA公众号。 目录 序言.......................................................................................................................................8摘要.......................................................................................................................................9什么是影子访问？..................................................................................................................9零信任概述............................................................................................................................9为什么存在影子访问？........................................................................................................10零信任原则可以如何减少影子访问.......................................................................................11GenAI、LLMs等技术概述..................................................................................................11AI、GenAI、LLMs和影子访问...........................................................................................11全面的清单、变更管理和运营控制.........................................................................11数据访问的可见性、可控性和合规性.....................................................................12授权和治理框架.....................................................................................................12多模态数据的细粒度访问控制...............................................................................12向量嵌入的访问控制..............................................................................................12非结构化内容的数据分类.......................................................................................13身份验证和负责任使用..........................................................................................13内容适宜性和授权.................................................................................................13防止个人信息和机密数据泄露...............................................................................13结论.....................................................................................................................................14其他资料..............................................................................................................................14 序言 随着云计算、人工智能（AI）、生成式人工智能（GenAI）以及大型语言模型（LLM）等技术的快速发展，企业在数字化转型过程中面临的安全挑战日益复杂。影子访问，这种对系统和数据的意外或未经授权的访问现象，因现代技术环境的复杂性和访问权限管理不足而加剧，已经成为一个亟需解决的安全问题。与此同时，零信任安全理念作为应对新兴安全挑战的重要策略，逐渐受到各行业的重视。 本报告《以零信任应对AI部署中的影子访问风险》深入探讨了影子访问这一新兴安全问题与零信任安全框架之间的关系，特别是在生成式人工智能和大型语言模型广泛应用的背景下。报告还探讨了生成式人工智能技术引入的额外影子访问风险，并提出了应对这些新兴挑战的多种策略，如细粒度的访问控制、数据分类、身份验证和负责任使用等。这些内容为企业在日益复杂的技术环境中如何有效地管理和控制影子访问提供了宝贵的建议和指导。 在AI时代下，持续关注和深入探讨影子访问问题的重要性。通过不断探索和制定最佳实践，企业可以在复杂的技术环境中建立更健全、更安全的防护体系，确保信息系统的安全性和稳定性。 CSA大中华区主席兼研究院院长 摘要 影子访问是云计算中日益关注的问题，它指的是对系统和数据的意外或未经授权的访问，往往因现代技术环境的复杂性和访问权限管理不足而加剧。 零信任安全以“永不信任，持续验证”的理念为中心，被定位为应对影子访问的对策，提倡健壮的身份验证和严格的访问控制。然而，在影子访问非常普遍的云原生架构中，零信任的实际落地面临着挑战。 人工智能，特别是生成式人工智能（GenAI）、大型语言模型（LLMs）和检索增强生成（RAG）的集成，引入了影子访问风险的额外维度，如未经授权的访问、敏感数据暴露，以及人工智能和其他应用程序中的治理问题。本文档强调，由于人工智能导致影子访问脆弱性增加，所以在一个不断发展的环境中需要加强网络安全，同时传统的零信任方法必须适应生成式人工智能技术带来的细微差别。 本文档着重于讨论影子访问与当今最重要的两种技术的交叉点：零信任和人工智能。 什么是影子访问？ 影子访问是对资源（如应用程序、网络和数据）的意外和/或非预期的访问。随着云计算、DevOps、云原生架构和数据共享的发展，这个新问题更加严重。 影子访问越来越成为一个云问题，这是由于各类云服务的聚合使用导致访问控制和用户权利要求增加，加上自动化的基础设施和软件开发，导致错误或意外地允许的帐户使用和资源开放。从小到大的组织经常会艰难地发现，曾经一个安全的起点已经默默地演变成了一个不安全的起点。此问题伴随着克隆帐户和权限（通常在入职或帐户创建过程中），为用户提供了非必要的访问，进而增加了影子访问问题。 零信任概述 零信任是新一代的网络风险战略，是一种基于“永不信任、持续验证”理念的方法，它可以大大减轻影子访问的可能性和影响。 零信任需要实现强身份验证（多因素身份验证（MFA）、密码学等），以及访问控制 （最小特权、基于角色的访问控制（RBAC）、基于属性的访问控制（ABAC）、基于上下文的访问控制（CBAC））。它还需要使用网络分割和微隔离、持续认证和监控（用户和实体行为分析（UEBA）），以及审查、评估和审计。所有这些因素都有助于减少影子访问。 为什么存在影子访问？ 零信任的基本原则是，不应该隐式或默认地授予任何访问权限，必须有意和明确地授予权限。因此，根据它的定义，零信任不允许影子访问，即意外或未经授权的访问路径。 那么，为什么会存在影子访问呢？ 原因是很少有环境实现了所有的零信任原则。我们生活在一个不完美的世界里，人们会犯错误，应用程序不断变化，有不同和不完整的流程和技术，数据的共享程度前所未有。此外，组织往往鼓励业务在审计与合规审查之前完成实施。影子访问往往普遍存在于现代云原生架构中的基础组件：对各类资源的授权过程。合乎逻辑的期望是，这应该可以简化零信任原则的实施。但是，架构是复杂的、可扩展的，并且分布在实例和控制逻辑中。这些问题，加上IAM流程和应用程序开发实践中的差距，是影子访问产生的根源。鉴于这些起点，问题的出现是不可避免的，这是可以理解的。事实上，这正是零信任核心原则的意图所在。零信任的这些要素强调了需要持续审查访问、路径和风险的必要性。 影子访问是可能被无意中授权或通过其他一些操作被授予为更大权限。零信任就是规避这一切。因此，无论是作为技术还是原则，影子访问的识别和删除都是零信任的一个组成部分，如果不能首先杜绝任何影子访问，就无法实现零信任的最终状态。 本文档进一步讨论了零信任和影子访问如何交叉，以及可以做些什么来确保一个更健壮和更安全的环境。 零信任原则可以如何减少影子访问 零信任最初通过其分配最小权限访问的核心原则来减轻影子访问。最小特权的访问权限意味着只为用户、设备、应用程序和工作负载提供他们绝对需要的访问权限。 零信任假设环境已经或者将出现问题，并通过对环境的持续监控，进一步降低影子访问的可能性。这将揭示并解决影子访问问题，无论是由于错误（显式操作或模板）还是由于应用程序更改导致的