携手 Prisma Cloud 捍卫人工智能的未来

如何保护您的关键云人工智能工作负载和数据，同时不降低创新速度 目录 人工智能创新正在云端进行 云中有力量..............................................................................4多云的多方面风险...............................................................5人工智能数据存储至关重要-也岌岌可危................6对人工智能数据的攻击类型............................................7确保人工智能数据安全的挑战...............................8更多工具，更多问题...........................................................9 Prisma Cloud如何帮助您捍卫人工智能的未来 Prisma Cloud发挥精准人工智能™的威力..................11以人工智能对抗人工智能.................................................12以设计确保人工智能安全.................................................13利用人工智能简化安全程序............................................14云安全健康检查....................................................................15关于Prisma Cloud...............................................................16 02 人工智能创新正在第01部分 随着各行各业的公司认识到人工智能在推动数字化转型和未来增长方面的潜力，将人工智能整合到混合和云环境中的势头正在迅速增长。为了处理海量数据和执行能源密集型人工智能工作负载，企业正在转向云服务，越来越多地采用多云和混合云部署来支持和扩展自己的人工智能举措。虚拟机、云容器服务（如Kubernetes®）和广泛的云数据存储构成了大型语言模型(LLM)、检索增强生成(RAG)和人工智能代理的骨干。 云端上演 云计算的魅力在于它为人工智能工作负载提供了一个可扩展、适应性强而且具有成本效益的基础，并提供了所需的计算能力。这样，企业就可以无缝地扩大或缩小规模，无需承担高昂的物理基础设施成本。 云中有力量 云驱动的人工智能使企业能够： Gartner预计，到2025年，95%的新数字工作负载将部署在云原生平台上，而2021年的比例仅为31%。1Forrester预测，从2023年到2030年，现成人工智能软件市场的复合年增长率将达到36%，这表明采用人工智能技术并将其作为战略增长举措的企业越来越多。2 训练AI模型。 实施ChatGPT功能。 95% 分析海量数据集。 自动化工作流程。 的新数字工作负载将在云原生平台部署，高于2021年的31%。 运行大规模人工智能部署。 尝试创新。 多云的多方面风险 为了运行要求最苛刻的人工智能/机器学习工作负载，企业依靠多家云服务提供商来开发、部署和使用人工智能产品。虚拟机、容器和应用程序接口对于人工智能创新必不可少，而用于测试、暂存和生产的专用云环境对于管理工作负载、计算资源和分离敏感资产至关重要。 3,000亿美元人工智能技术支出 多云基础设施对于人工智能项目可能是必要的。然而，在我们这个充满先进威胁的时代，管理和保护每个云环境变得愈加困难。多云部署造成的攻击面不断扩大，带来了可视性缺口、政策不一致和令人绝望的访问控制，这反过来又为不良行为者敞开了大门。 预计2026年3 以云为中心的企业基础设施中，黑客攻击的一个关键目标就是构成其人工智能工作负载DNA的敏感和专有数据集。 人工智能数据存储至关重要-也岌岌可危 人工智能以数据为食，而且饥不择食。为了训练LLM和其他人工智能模型，企业必须创建包含其最敏感信息的海量数据存储库。它们利用TB量级的数据，这些数据通常托管在包含以下内容的公有云服务上： 我们都熟知数据泄露的风险。丢失员工或客户信息、商业秘密、知识产权、源代码、运营信息、业务预测和其他敏感数据会给公司带来巨大的财务、声誉和法律风险。 •个人身份数据•健康信息 •知识产权•商业情报•供应商数据 我们都认为，数据泄露对企业不利。 泄露造成的影响越来越严重。2023年，全球数据泄露的平均损失为450万美元，自2020年以来增长了15%。4 但是，在依赖数据的人工智能世界里，数据泄露可能是事关生死存亡的灾难性事件。 对人工智能数据的攻击类型 AI/ML数据存储库中使用的数据类型被称为“放射性黄金”。这些数据非常宝贵，但必须非常小心地处理、存储和控制，因为一旦落入坏人之手，就会造成危险。 除了SQL注入等传统安全威胁外，人工智能数据存储还受到不断演变的、专门针对自身的独特攻击。以下是需要警惕的五种威胁： 模型反演 成员推断 数据中毒 提示词注入 AI DDoS攻击 众所周知，威胁攻击者注入的提示词会大大改变模型的预期行为。例如，恶意提示词可能会导致人工智能聊天机器人暴露训练数据集中的敏感数据。 与经典的拒绝服务攻击非常相似，AIDDoS威胁会使LLM不堪重负，拒绝访问数据或应用程序，迫使您的系统消耗过多的资源才能跟上。 在这种攻击中，观察目标机器的学习模型，目的是创建自己的“影子模型”。.然后使用影子模型来预测哪些数据记录是或不是目标模型训练数据的一部分。 攻击者可以修改人工智能模型训练所依据的核心数据/代码，确保在训练开始之前就破坏结果。这可能导致数据输出出现严重偏差以及安全漏洞。 与成员推断类似，这种攻击针对特定数据记录（例如P I I） ， 但 在 这 种 情 况下，攻击者试图根据您的AI模型的输出来预测输入数据。 确保人工智能数据安全的挑战 云提供了运行当前和未来人工智能工作负载所需的可扩展数据存储和处理能力，但在不同的云环境中运行人工智能工作负载可能会带来挑战。 创新的步伐使许多企业迈出了自己的云安全舒适区，危及到将推动增长的人工智能项目。 任务关键型的云存储数据面临风险。攻击者可以外流并出售您的专有数据，或利用这些数据制作勒索软件。不良分子和恶意内部人员可能会向数据存储中注入污点和恶意数据，从而破坏人工智能的输出。 事实上，拥有16种以上安全工具的企业在2023年遭遇的数据安全事故是工具数量较少的企业的2.8倍。5 更多工具，更多问题 那么，在这个瞬息万变的技术环境中，如何保护重要的人工智能工具和数据集呢？答案肯定不是更多互不关联的安全工具和各自为政的解决方案。工具越多，人工智能数据存储和云工作负载的安全性就越低。 答案就是一个集成、全面的CNAPP，它能降低云安全的复杂性-一个利用AI/ML保护基于云的AI工作负载的解决方案，同时不会放慢创新的步伐。 答案就是Prisma Cloud。 更多的工具意味着： •更多的维护、更多的培训和更多的流程。•工作量增加，结果减少，警报数量越来越多。•实施、维护以及与云安全堆栈中的其他解决方案集成所需的精力更多，这意味着调查和修复工作进展缓慢。•可视性负担过重和无法关联攻击路径的风险更大。 拥有16种以上安全工具的企业在2023年遭遇的数据安全事故是工具数量较少的企业的2.8倍。 第02部分 即使在最理想的情况下，降低云中的安全风险也是一个挑战。但如今，鉴于人工智能辅助开发的急剧加速—更不用说人工智能驱动的攻击—这个目标几乎是不可能实现的。要做的事情太多了，而管理这些事情的资源却不够。 PrismaCloud如何帮助您捍卫人工智能的未来 为此，Prisma®Cloud采取多管齐下的方法，帮助客户应对这一新的攻击载体，在内部安全地采用人工智能，以实现更好的业务成果。 1.以人工智能对抗人工智能：PrismaCloud利用人工智能从初始易受攻击的资产开始，对攻击者可能采取的所有路径进行图形建模，这样您就能轻松了解风险的扩散范围。2.以设计确保人工智能安全：PrismaCloud可确保您使用人工智能的安全，帮助您的企业抵御与人工智能、机器学习和GenAI模型相关的独特风险，包括数据暴露、滥用和模型漏洞。3.利用人工智能简化安全程序：PrismaCloud使任何人都能通过简单的对话有效解决安全问题。Copilot可理解自然语言，不仅能揭示最紧迫的风险，还能推荐最佳修复工作流程，从而杜绝猜测。 Prisma Cloud发挥精准人工智能™的威力 精准人工智能是建立在丰富安全数据集基础上的高保真自动化。实现网络防御的规模化和自动化-实时检测、预防和解决警报。 机器学习 深度学习 机器学习辅助我们的安全应用程序，通过使用精准、明确的历史数据和当前数据，更准确地预防、预测和修复安全问题。 不断建立预测模型，目的是在问题发生之前就预测出来。 生成式人工智能 精准人工智能 将各种形式的人工智能结合起来，在人工智能攻击升级的同时预测并加以阻止。 控件会说“人话”，让您不用再说机器语言。 以人工智能对抗人工智能 人工智能攻击的复杂程度和规模令现有工具望尘莫及。我们需要的是能够持续分析云堆栈、精确关联整个环境的洞察力并快速识别企业最严峻风险的自动化智能。 P r i s m aC l o u d将 其 现 有 的 机 器 学 习 威 胁 检 测 功 能（UEBA、网络异常检测）与新的人工智能风险建模和冲击半径分析相结合。通过人工智能驱动的分析，可以看到入侵的影响以及最有效的修复工作流程建议。始终通过行动计划采取最有效的补救措施。 进一步了解如何利用人工智能确保安全→ 以设计确保人工智能安全 为了应对大规模部署人工智能和GenAI的独特挑战，同时帮助降低安全性和合规性风险，PrismaCloudAI-SPM提供了一套全新的功能来应对这些挑战。从数据摄取和训练到部署，AI-SPM提供对人工智能模型生命周期的可视性。通过分析模型行为、数据流和系统交互，AI-SPM可帮助识别传统风险分析和检测工具可能无法发现的潜在安全性和合规性风险。企业可以利用这些见解来执行策略和最佳实践，确保以安全、合规的方式部署人工智能系统。 此外，PrismaCloudAI-SPM还能监控特定于人工智能的威胁，如数据中毒、模型盗窃和适当的输出处理，提醒安全团队注意潜在事故，并就补救步骤提供指导。随着人工智能相关法规的不断发展，AI-SPM还可以将隐私和可接受的使用情况纳入人工智能开发流程，从而帮助企业在合规要求方面保持领先。 利用人工智能简化安全程序 通过简单的对话，实现云安全的民主化，使您的团队能够有效降低云风险。PrismaCloudCopilot可以消除不确定性，让您知道应该关注什么以及如何以最佳方式解决问题。它详细说明了代码到云的影响，并提供了更多情境，比如风险为何至关重要以及攻击者如何利用风险。Copilot还能帮助您找到所需的信息，而无需浪费时间翻阅文档或浏览多个面板。 云安全健康检查 您最敏感的云工作负载安全性如何？ 我们的云安全健康检查是一项免费服务，可帮助识别您的云安全态势中存在的差距和漏洞。 服务内容包括： 10天PrismaCloud免费试用。针对您的技术堆栈定制上手指导。详细的安全风险评估报告。与Prisma Cloud解决方案架构师一起进行报告演练。 您将获得一份定制报告，其中包括最常见的策略违规和配置错误、最易暴露的资产以及最重要的警报。 获取免费的云安全健康检查。 关于Prisma Cloud Prisma®Cloud是业界相当全面的云原生应用保护