生成式人工智能与网络安全：经典之作

将生成式 AI 纳入业务结构时 ， 最大的风险是 ： 由于无意间传播或包含受监管或公司机密数据导致的数据泄露和版权问题。 最大的风险是数据 在企业层面和AI生态系统中实施。这带来了内部运营模式的挑战，并需合规地监控其输入和输出。 在 Gen AI 系统中 ， 基础安全必须跨四个维度进行： 在设计安全的生成式AI时，数据风险优先考虑。概括而言，这些风险源自三项活动： 框架、治理与风险管理 数据和身份安全 可信赖的Gen AI模型及其结果 基础设施和应用程序监控与交付 暴露机密和 / 或管制信息 不准确的信息会扰乱决策或运营流程 威胁模型可以从NIST、MITRE、微软、谷歌以及其他行业机构获得，以便更快地应对新的风险。 当生成式人工智能工具被用作聊天机器人，作为客户与组织之间的接口时，可能会造成潜在的品牌声誉损害。 一个通用人工智能系统可以有不同的安全范围。以云服务提供商（CSP）为例，每个CSP（也称为超大规模提供商）提供的生成性人工智能系统的安全范围都非常不同，而每个提供商对这一范围的定义也各不相同。考虑图1中参考架构下的共享责任。 生成式AI的采用模式和网络安全问题引发了类似早期云计算时代的问题。生成式AI的快速崛起使组织面临通常的创新困境：是采取谨慎和限制性的方法以避免错失机会，还是给予更多自由从而面临新的风险？ 这些风险具有共同的主题，即在适当的时间识别、清洗和保护正确的数据，并在生成式AI解决方案周围设置适当的限制。尽管生成式AI具有潜力并备受期待，但它本质上仍是一种企业工具：它需要应用和适应政策、控制措施和方法。 对最终用户至关重要的各种用例并且是相关的商业案例 监控和维护 监控性能、用户体验和结果质量 亚马逊网络服务专注于为生成式AI模型提供基础设施，类似于亚马逊Bedrock。可以实现不同程度的定制和所有权。客户系统的定义为提供的基础设施，而其部分的责任范围包括模型、数据和应用程序的安全性。 专注于应用层、监控以及Gen AI接口，同时GCP从模型到数据和基础设施承担共享责任。 借助Microsoft Azure的Co-pilot，CSP负责基础设施、模型、应用以及其中的一切。客户则专注于数据安全和业务目的。数据接口定义其系统，而模型、基础设施和应用程序接口则被视为黑盒。 Google Cloud Platform（GCP）的方法侧重于基础设施和模型，提供Vertex AI和Model Garden以赋能客户。客户 建立具有治理的安全框架 团队成员关于通用人工智能（Gen AI）如何运作、其固有问题以及数据泄露等风险和组织自身政策的教育培训 描述如何管理风险的安全 Gen AI 参考体系结构 参考架构必须以多种方式应对各种模型的风险。一个完整的专有解决方案，包括生成式AI模型开发和预训练，意味着组织将具备并承担从头到尾解决其特定风险的能力。 关于如何监管通用人工智能（Gen AI）的立场差异巨大，从完全禁止到完全自由放任不等。没有任何单一政府或超国家政治实体能够决定通用人工智能的普及方式。尽管如此，企业必须在其客户、地理区域和伦理原则的基础上，在法律和监管结构内开展工作。 在软件即服务生成式AI的情况下，许多风险需要通过合同和第三方及第四方风险管理来解决。组织还可以部署多个具有不同架构模型的生成式AI解决方案，以及混合模型。 治理机构——如生成式AI卓越中心——企业在推动生成式AI的安全采用方面是必要的。它们有助于加速低风险、高影响的商业实验，同时加强对高风险计划的适当监督。通过制定可重复、可执行并广泛传播的指导原则，企业可以更快更安全地利用生成式AI解决方案。 为了预测生成式 AI 治理的预期 ， 企业应该考虑以下几点 ： 现有和即将出台的法规将影响 AI 的使用 企业对技术和法规的独特风险容忍度 关于凯捷 Capgemini 是一家全球领先的企业，致力于通过利用技术的力量与公司合作转型和管理其业务。该集团每天都以其通过技术释放人类能量、为包容性和可持续未来而努力的宗旨为指导。它是一家负责任且多元化的组织，拥有近 350,000 名员工，在超过 50 个国家和地区开展业务。凭借其强大的 55 年历史和深厚的专业知识，Capgemini 被客户信任以解决其整个业务范围的需求，从战略设计到运营，动力来自于快速演变和创新的世界，包括云计算、数据、AI、连接性、软件、数字工程和平台。该集团在 2022 年的全球收入为 220 亿欧元。 得到你想要的未来 | www. capgemini. com cybersecurity. in @ capgemini. com欲了解更多详情 ， 请联系 ：