将生成式 AI 纳入业务结构时，最大的风险是数据泄露和版权问题，主要源于无意间传播或包含受监管或公司机密数据。在企业层面和 AI 生态系统中实施时，这带来了内部运营模式的挑战，并需合规地监控其输入和输出。
在设计安全的生成式 AI 时，基础安全必须跨四个维度进行：
- 框架、治理与风险管理
- 数据和身份安全
- 可信赖的 Gen AI 模型及其结果
- 基础设施和应用程序监控与交付
这些风险源自三项活动：
- 暴露机密和/或管制信息
- 不准确的信息会扰乱决策或运营流程
威胁模型可以从 NIST、MITRE、微软、谷歌以及其他行业机构获得，以便更快地应对新的风险。
当生成式 AI 工具被用作聊天机器人时，可能会造成潜在的品牌声誉损害。通用人工智能系统可以有不同的安全范围，以云服务提供商（CSP）为例，每个 CSP 提供的生成性 AI 系统的安全范围都非常不同，且每个提供商对这一范围的定义也各不相同。考虑参考架构下的共享责任。
生成式 AI 的采用模式和网络安全问题引发了类似早期云计算时代的问题。组织面临通常的创新困境：是采取谨慎和限制性的方法以避免错失机会，还是给予更多自由从而面临新的风险？
这些风险具有共同的主题，即在适当的时间识别、清洗和保护正确的数据，并在生成式 AI 解决方案周围设置适当的限制。尽管生成式 AI 具有潜力并备受期待，但它本质上仍是一种企业工具：它需要应用和适应政策、控制措施和方法。
对最终用户至关重要的各种用例并且是相关的商业案例。监控和维护包括监控性能、用户体验和结果质量。
不同 CSP 的责任范围：
- 亚马逊网络服务（AWS）专注于为生成式 AI 模型提供基础设施，类似于亚马逊 Bedrock。客户系统的定义为提供的基础设施，其部分的责任范围包括模型、数据和应用程序的安全性。
- Google Cloud Platform（GCP）的方法侧重于基础设施和模型，提供 Vertex AI 和 Model Garden 以赋能客户。客户建立具有治理的安全框架，团队成员接受关于通用人工智能（Gen AI）如何运作、其固有问题以及数据泄露等风险和组织自身政策的教育培训。
- Microsoft Azure 的 Co-pilot 中，CSP 负责基础设施、模型、应用以及其中的一切。客户则专注于数据安全和业务目的。
关于如何监管通用人工智能（Gen AI）的立场差异巨大，从完全禁止到完全自由放任不等。没有任何单一政府或超国家政治实体能够决定通用人工智能的普及方式。尽管如此，企业必须在其客户、地理区域和伦理原则的基础上，在法律和监管结构内开展工作。
在软件即服务生成式 AI 的情况下，许多风险需要通过合同和第三方及第四方风险管理来解决。组织还可以部署多个具有不同架构模型的生成式 AI 解决方案，以及混合模型。
治理机构——如生成式 AI 卓越中心——企业在推动生成式 AI 的安全采用方面是必要的。它们有助于加速低风险、高影响的商业实验，同时加强对高风险计划的适当监督。通过制定可重复、可执行并广泛传播的指导原则，企业可以更快更安全地利用生成式 AI 解决方案。
为了预测生成式 AI 治理的预期，企业应该考虑以下几点：
- 现有和即将出台的法规将影响 AI 的使用
- 企业对技术和法规的独特风险容忍度
