借助 AI 彻底改变您的金融服务 ： Azure OpenAI 战略之旅

面向金融服务的企业AZUREOPENAI 关于您的组织如何在整个企业中实施OpenAI的实用指南 目录 Introduction 人工智能(AI)无处不在，其能力也在不断扩展。然而，对于金融服务行业的人来说，将AI纳入组织的想法引发了一个危险信号— —尤其是生成式AI。 大多数首席技术官（CTO）都熟悉生成AI，并且知道现成的产品存在，但由于安全问题以及需要定期使用专有企业数据，这些选择是不够的。相反，我们需要的是一种创新、可定制和可增强团队成员的客户运营、改善客户体验并随着时间的推移保持成本效益的解决方案。 生成AI是一种人工智能，专注于创建新颖而复杂的图像，文本，音乐或视频输出。在生成AI中添加数据偏差检查可以帮助公平竞争，纠正和消除源于人的种族、性别或残疾的算法偏差。在将其推广到全体员工之前，对高级员工进行培训，同时基于持续的反馈改进模型，可以全面改善最 考虑生成AI如何帮助提高开发人员的生产力： ••终用户体验。•内部工程师将看到开发人员生产力的提高。•客户将获得针对其特定需求量身定制的更好体验。•通过使用较小的团队来接触相同数量的员工，从而使用生成式AI简化人力资源管理流程，从而降低成本。 AI工具在您的指尖 目标和证明在整个组织中纳入生成式人工智能是合理的。 现在可以使用各种AI工具来帮助组织进行数字化转型。 为了实施生成AI，首席技术官需要一个明确的攻击计划，将其纳入他们的业务模型，在评估数据安全和监管合规性等问题的同时探索什么对他们的业务有效。首席技术官知道这一点，但需要更多关于安全和成功做到这一点的考虑因素和要求的信息。在没有计划的情况下前进可能会导致过程中的重大失误。 例如，MicrosoftCopilot旨在为所有Microsoft应用程序和体验提供AI帮助。 MicrosoftAzureOpenAI提供了一套全面的AI工具和服务，旨在加速组织的数字化转型和创新技术解决方案的采用。金融服务公司可以从利用AzureOpenAI简化流程、增强决策并确保法规合规性中受益。 CTO知道如何将技术掌握在他们的技术团队手中，但必须寻求指导，以定制正确的解决方案，而不是轻松获得现成的解决方案。然而，投入内部所需的时间，精力和团队成员的成本在生成AI解决方案上，和/或为企业设计定制应用程序通常是遥不可及的。这就是凯捷可以提供帮助的地方。 一旦使用用例和AI工具，实现生成AI的真正好处将取决于您的组织将结果设定为目标。由您的首席执行官和其他首席执行官来建立具体的 加入我们的创成式AI采用之旅： 从意识开始，Azure OpenAI采用之旅经历了五个成熟阶段。接下来是实验，使用Microsoft的软件开发工具包(SDK)和内置工具。移动到通过安全要求和法规遵从性，最终实现最终的最终游戏：优化和创新。 1级：意识 以下是Azure OpenAI数据保护旨在维护安全性的三种方式： 1.数据和提示是私有的- Azure OpenAI作为金融服务中生成AI的基础是私有的。最重要的是，提供给Azure OpenAI的数据和提示永远不会以任何身份提供给其他客户。Microsoft不使用数据来微调用户提供的模型或提示作为培训OpenAI模型本身。因此，自定义模型、提示和输出对每个组织都更安全。每个组织生成的微调模型仅供训练这些模型的组织使用。 了解AzureOpenAI服务和金融服务中的AzureOpenAI 从内部利益相关者那里获得关于生成AI的好处的核心是教育他们。以下是CTO可以与他们的内部利益相关者分享的一些信息，了解Microsoft的Azure AI服务及其生成AI平台Azure OpenAI。 Azure AI服务构成了Microsoft在Azure中提供的大量可用智能解决方案。这些服务的最新功能- Azure OpenAI -为套件添加了语言生成功能。以下语言服务代表了AI中的一个利基市场，并通过Azure人工智能服务提供： 2.仅使用特定于公司的数据- 当组织对AI模型进行微调以满足其需求时，可用数据仅用于上传它的组织-外部各方无权访问它-并且可能随时被您的公司删除。此数据存储在Azure OpenAI资源的同一区域中，并且可以在静止时进行双重加密。此双重加密方法利用Microsoft托管密钥和客户托管密钥进行加密。 •Bot服务•内容安全•文档情报•沉浸式阅读器•语言•演讲稿•翻译者 3.内容过滤和滥用监控控制 提供- 为了减少对服务的有害使用并确保以符合Microsoft行为准则的方式使用该服务，Microsoft提供了内容过滤和滥用监视控件，作为Azure OpenAI服务的一部分。对于内容筛选功能，不存储提示或生成的结果数据。此外，由于此短暂功能，数据不用于训练，重新训练或改进模型。滥用监视功能是异步的，并且默认情况下，提示和生成的结果最多存储30天。此监视可以配置为在豁免时不存储数据Microsoft的批准。即使未禁用此监视，数据也会存储在与其他用户逻辑上分离的位置。最后,只有当标记内容时,才会触发人工审查。 在金融服务业务中使用生成式AI提供了许多一般好处，包括简化的决策。AI模型可以快速准确地分析大量数据，使人类用户能够在此类领域做出更好，更快的决策作为信用风险评估、投资策略和欺诈检测。 利用Azure OpenAI的基于云的基础架构作为生成AI解决方案的基础，公司可以随着需求的增长轻松扩展其AI解决方案，从而确保他们能够继续创新。 一旦组织实现了这种意识，就已经开始了迈向成熟度的第一步。 一旦内部利益相关者加入，用例和应用程序已经被确定，潜在的能力已经被考虑，现在是实验阶段的时候了。 入门：AzureOpenAI如何保护组织的数据 在将生成式AI纳入您的组织时，保护公司数据是第一步，也是最大的关注点。Microsoft不会使用您公司的数据来提供更大的AI数据池。 可用的应用程序编程接口(API)允许您的组织： 第2级：实验 •上传训练数据•创建微调请求•检查微调请求的状态•部署自定义模型 学习如何在受控环境中构建、部署和测试AI应用程序 对采用Azre OpeAI感兴趣的金融服务公司需要了解系统的部署模式-如何使用它，以及提供的工具和功能，使其成为一个平稳的过程。默认模型非常适合在沙盒环境中入门，并帮助您的内部工程师了解服务的运行方式。一旦概念验证完成并且团队了解服务，下一步就是。 这些功能通过CI / CD管道中的一系列脚本实现自动化。 一旦数据可用，就更容易从沙箱移动到来自服务的更复杂的输出。 开始使用 要在沙盒环境中开始使用并发展到第二个成熟度级别，您的组织必须聘请多个团队成员，以确保无缝和成功的技术开发，包括合规官、企业架构师、工程和业务团队。下图说明了在您的组织开始时，每个团队成员将如何参与。 风险与合规官员 企业、解决方案、InfoSec架构师 1.创建白皮书以确定战略决策、最佳实践和采用理由2.定义设计模式和组织标准以使用生成式AI3.获得使用该技术的批准4.根据组织策略评估和加强安全性 1.定义审计流程、实践和文档，以提升合规风险和身份违规2.创建和审查政策和内部控制3.为组织制定创成式AI的法律合规性要求4.管理和监督实施，以确保符合合规性要求 软件、基础设施、InfoSec工程师 业务团队 1.通过利用生成式AI的特性，确定使客户受益的用例2.开发具有合理性的业务案例，以证明将得出的价值3.编译数据库以支持模型微调和评估 1.使用各种预构建模型开发沙箱原型并学习实现实践2.开发基础架构自动化和集成API3.从体系结构中纳入安全性和法规遵从性要求 完成选项可用，允许用户与模型进行交互以进行测试和评估。在管理方面，用户可以上传数据、预配基础和自定义模型，并在游乐场或通过API创建用于交互的部署。Azure OpenAI服务也可以使用Azure提供的标准自动化工具进行预配。 Azure帐户处于活动状态后，第一步是使用Azure AI服务设置 OpenAI环境。 Azure OpenAI配备了一组预构建的AI模型，使开发人员可以更轻松地开始使用GPT等生成AI模型。 除了预配服务外，多个SDK还可以与Azure OpenAI API进行交互，从而提供了将OpenAI集成到自定义软件解决方案中的简单方法。 接下来，您的团队必须选择适当的AI模型来尝试并确定最适合您公司需求的AI模型。Azure为异常检测、欺诈预防和风险评估等任务提供预构建模型。 SDK是为Python、. NET和Java等编程语言开发的，通过为OpenAI服务构建包装器微服务，可以轻松入门。该包装器可以执行围绕安全性、法规和合规性的规则，并提供FinOps控制的手段。 至关重要的是，围绕您使用AI的合规性要求定义安全性和策略。而最终将利用OpenAI服务的团队正在研究和了解使用模式，企业架构组必须围绕合规性要求定义AI标准和策略，以实现对该技术的全面采用。 •在实验阶段结束时，您的团队成员应该完成以下工作：•定义适当的政策•了解使用模式（并且可能已经开始采用生成AI的概念验证）•经过训练和测试的模型，适合在您的组织中使用。 一旦您的团队了解了基础知识并定义了策略和标准，下一步就是训练和测试AI模型，以验证哪些模型适合您的组织需求。使用您公司的历史数据来训练和微调AI模型。训练后，测试模型以确保其准确性和可靠性。 完成上述任务后，您的组织就可以在生产中部署这些AI模型，并开始收获AI的好处。 为了帮助代码进行内容生成、摘要、语义搜索和自然语言，AzureOpenAI服务提供了对OpenAI语言模型（包括GPT - 3、GPT - 4、Codex和嵌入模型系列）的REST API访问。 在采用基础知识，定义标准和最佳实践以及通过实验实施适当政策的同时，金融服务组织可以发展到下一个成熟水平：运营化。 Microsoft的Azure OpenAI Studio用户界面访问基于代码的方法（API或SDK）之外的服务，同时提供游乐场和管理功能。在游乐场方面，聊天和 AzureOpenAI正在运行 作为微软整体产品的一部分，组织可以采用用于使用平台的软件。 考虑这种情况：组织在其客户软件中实现二头肌和SDK，以便其客户服务代表可以与被保险人聊天。客户pig代表询问汽车保单问题，提供他们的承保类型和保单编号，因为他们想知道他们是否可以因支付汽车索赔而获得赔偿。AI模型可帮助快速评估保单，并确定自动索赔减去免赔额，从而节省了客户和代表在此过程中的时间。 如果没有生成人工智能，客户服务代表将不得不提出并阅读政策。如果他们需要帮助，代表还可能需要与内部资源协商以寻求帮助，从而增加了帮助解决客户的政策和索赔相关问题所需的时间。 接下来，定义监视和日志记录标准。启用AzreOpeAI资源的监视和日志记录，以快速检测和响应安全事件。使用AzreMoitor收集和分析日志并配置可疑活动的警报。此外，考虑与AzreSetiel（云原生安全信息和事件管理(SIEM)解决方案）集成，以获得高级威胁检测功能。 第3级：操作化 虽然Microsoft可以轻松地在Azure中设置基础结构以利用生成AI，但金融机构必须考虑这样做的安全隐患。使用OpenAI等产品时的一些关键注意事项包括： 若要确保Azure OpenAI环境的安全性，组织必须制定漏洞管理实践。定期评估Azure OpenAI环境中的漏洞并根据需要应用修补程序。使用Azure安全中心监视和管理资源的安全状况，并遵循提供的建议以减轻潜在风险。 •数据保护•访问控制•网络安全•监控和日志记录•漏洞管理•合规性•安全模型开发•模型透明度 合规是金融服务公司的另一个关键主题。为确保Azre OpeAI实施符合相关行业标准和法规，例如支付卡行业数据安全标准(PCI - DSS)、通用数据保护条例(GDPR)、银行保密法/反洗钱法(BSA / A