好机器人和坏人您的智能数字化劳动力能否抵御网络攻击？ 内容行政人员概括3简介：进入智能时代自动化4如何保护 RPA 和 AI劳动力11风险和风险的五个重点领域控制15建议182好机器人和坏演员 执行摘要金融服务行业的公司正在通过采用机器人流程自动化 (RPA) 和人工智能 (AI) 来利用智能自动化的变革力量。这些颠覆性技术正在从根本上重新定义公司的运营并重塑他们与客户互动的方式。RPA 和 AI 的持续进步为公司创造了新的机会，可以将运营成本降低 45% - 65%，同时将生产力提高多达 75%。1一个规模已经在几乎所有行业产生了快速的使用：Everest Group 估计，现在每天有 250 万个有人值守的机器人和 80 万个无人值守的机器人执行流程。 2但是，与任何其他新兴技术一样，RPA 和 AI 具有特定的安全漏洞，可以被恶意行为者利用。随着网络攻击随着网络犯罪分子的增加和扩大他们的行动，恶意行为者也配备了这一点也就不足为奇了随着越来越复杂的技术寻求访问保护不足的系统。随着企业加速其 AI 和 RPA 计划，埃森哲已经看到越来越多的攻击旨在利用其安全漏洞。 3此类攻击的直接影响尤其难以察觉，对银行和保险公司来说可能是巨大的，可能导致对监管不合规、损害运营和降低消费者信任的惩罚性罚款。更不用说处理安全事件的高昂成本，新技术的延迟采用主要高级利益相关者普遍丧失信心。为了释放 AI 和 RPA 的潜力，并降低相关的网络风险，首席安全官、人工智能负责人及其团队应引入适当的安全治理框架，并在生命周期的早期将安全风险评估纳入每个自动化价值案例定义。因为这些技术的漏洞性质明显不同于那些对于标准软件实现，它们需要一种非常不同的方法，本文将对此进行讨论。您的智能数字化劳动力是否安全？网络攻击？3 介绍进入智能自动化时代4好机器人和坏演员 如今，大型银行、保险公司和资本市场参与者都在努力通过技术创新实现差异化并获得竞争优势。 RPA 和 AI 发挥作用在允许金融方面的重要作用服务业将变得更加高效的公司与客户互动并开展业务运营。由于人工智能和 RPA 的快速推出，以及智能自动化的最新发展（现在具有广泛的功能），越来越多的以前手动或部分自动化的复杂流程开始端到端执行由数字劳动力。为了说明这一点，图 1 提供了一个支持技术的示例，以及它们如何协同工作以支持保险公司中欺诈检测流程的自动化。在此示例中，经过训练的 AI 模型检测到异常在使用自然语言处理 (NLP) 引擎的保险索赔中。然后，RPA 工具会打开一个新的欺诈案例并更新各种案例管理系统中的信息。取决于根据欺诈和内部风险政策的严重性，人为干预可能过程中被要求审查决定或提供授权。图 1：保险欺诈检测的端到端集成自动化身份欺诈 AI/ML 模型案例管理审计师调查后步骤机器学习 (ML)RPARPA自动化自动化手动（可选）自动化NLP 引擎经过数百万先前索赔的训练，读取索赔并决定所提出的案例是否类似于那些被标记为欺诈的。RPA 在系统上打开一个新的欺诈案例并上传证据和支持信息。欺诈调查员对已识别案例的样本进行质量保证 (QA)，批准机器人做出的决定。RPA 完成调查后步骤，包括禁止客户、从各种系统收回付款。资料来源：埃森哲，2020 年 4 月您的智能数字化劳动力是否安全？网络攻击？5 根据最新的埃森哲网络弹性调查458%接受调查的金融服务 (FS)受访者报告成本增加他们在过去 2 年的网络安全。87%的 FS 受访者花费更多超过 20% 的网络安全预算关于先进技术。39%针对 FS 受访者的安全漏洞现在是间接攻击——这些是针对供应链中薄弱环节的攻击。30%针对 FS 受访者的违规行为有没有影响。为什么 AI 和 RPA 会成为对手的目标？AI 和 RPA 变得比以往任何时候都更加“授权”和自主。它们的战略角色和规模正在稳步扩大——许多机器人现在被允许直接与客户互动、处理大额支付，甚至向高级管理层提供洞察力和建议。所有这些——连同对组织核心应用程序和敏感客户数据的授权访问——使它们成为网络犯罪分子的有吸引力的目标：重大影响RPA 和 AI 通常用于做出关键决策并执行重要活动，例如支付和跨系统更新数据。成功的网络罪犯操纵机器人逻辑可能会造成重大且可能是不可逆转的损害，包括不稳定核心系统和操作。访问凭据为了操作关键流程，机器人获得了特权用户所需的登录访问凭据。这些凭据通常存储在一个集中位置，其中一个安全漏洞可能导致许多用户凭据被盗。丰富的数据虽然数据是数据科学项目的关键，可以让它们获得高精度和覆盖率，但它也面临着重大的安全风险。这是因为需要大量数据来训练复杂的模型。训练数据通常从生产环境中取出并存储在开发环境中，在开发环境中通常是未屏蔽且未匿名的，因为屏蔽它会破坏质量模型训练。这增加了数据中毒和泄漏的风险。模型和系统逻辑机器人创建的各种执行日志和临时文件可以成为公司专有信息的来源，敏感的客户数据。对此类信息的任何未经授权的访问和分发都可能暴露机密数据并公司及其客户面临风险。6好机器人和坏演员 使它们对网络犯罪分子更具吸引力的原因是，很难立即检测到针对 AI 和 RPA 技术的成功攻击。这是由于几个因素的综合作用：自治自动化解决方案旨在在几乎没有监督或根本没有监督的情况下运行。这意味着任何故障或错误可能在很长一段时间内都不会被发现——通常直到它们对下游流程性能产生明显影响或通过内部反馈。复杂金融服务公司越来越多地使用神经网络，这些神经网络具有由数百万个神经元组成的复杂分类法，可以以极高的速度和准确性解决复杂的问题，通常远远超出人类的能力。然而，为这种卓越性能付出的代价通常是神经网络到达的逻辑的可追溯性差在特定决定中，埃森哲最近的一篇论文中详细讨论了这一点。 5由于缺乏对逻辑的可见性，因此很难发现由攻击引起的任何错误。自学AI 和 RPA 的规则不是明确编程的，而是源自数据。结果，无法直观地理解逻辑中的每个步骤，从而难以识别它们是否被入侵者操纵。了解威胁表面和影响虽然组织的网络安全支出和意识一直在增加，10 但我们的经验表明，许多组织仍然缺乏意识和适当的程序来应对 RPA 和 AI 解决方案的特定漏洞——使攻击面得不到保护，并且存在可利用的漏洞。为了保护这些技术，了解它们的共同和个别弱点并制定适当的策略至关重要用于预防、检测和解决。您的智能数字化劳动力能否抵御网络攻击？ 75 吨美元6网络犯罪的预期年度成本到 2020 年。6 吨美元7到 2021 年网络犯罪的预期成本。5倍8英国数据泄露事件增加2018年金融服务业。119,6599平均网络攻击次数2019 年第一季度的英国业务。 图 2：AI 和 RPA 的影响程度差异数据泄露欺诈行为不正确的决定被盗凭证系统误用人工智能 RPA资料来源：埃森哲，2020 年 4 月平均而言，成功的网络攻击几乎没有被发现并且没有被遏制279 天。11 随着对 AI 和机器学习的攻击，这可能会更长。RPA：入侵机器人由于 RPA 是一种基于软件的技术，恶意行为者主要希望在以下两个方面暴露漏洞：开发工作室通过突破技术安全漏洞，黑客可能会使用命令对机器人进行重新编程，从而导致拒绝服务或循环通过一个过程反复进行，例如，向欺诈性帐户付款进行多次付款。机器人管理室通过闯入指挥中心，攻击者可以欺诈性地获取机器人的凭据，并使用恶意创建的脚本感染流程代码或禁用机器人，从而破坏多个业务领域的运营。8好机器人和坏演员 人工智能：侵入人工智能因为许多 AI 解决方案都建立在许多开箱即用的模型之上并且接受过大量数据的训练，网络犯罪分子通常希望通过直接操纵模型或毒化用于训练模型的数据集。对抗性 AI 以多种方式进行，每种方式都试图攻击不同的漏洞区域：训练数据这种类型的攻击通常试图通过操纵训练数据来“毒化”训练数据，目的是扭曲模型的决策。通常只有少量数据被篡改，这使得违规行为更难被发现。这种类型的攻击通常会导致模型预测出现轻微异常，这些异常本身最初产生的影响相对较小——但随着时间的推移，可能会导致巨大的财务损失和高度的损失。的低效率。模型攻击者可以通过引入精心计算的“特洛伊触发器”来分析和变异现有的人工智能模型，该触发器仅修改隐藏层中少量神经元的权重。结果是整体行为模型的常数保持不变，但当修改的神经元通过输入某些信号被激活时，可能会发生很大的偏差。迁移学习和开源库现在已经开发了迁移学习算法，它允许使用公开可用的开源模型以相对少量的数据和计算能力来训练模型。这些常见模型的使用使迁移学习攻击（也称为“后门”）更加危险，因为对一个模型的攻击可以同时影响许多其他模型。由于许多开源模型和代码库没有附带训练数据，并且发布者对内容的责任非常有限，因此在金融机构内使用未经验证的模型可能会带来重大风险。在此背景下，网络入侵对 RPA 和 AI 解决方案的风险和影响与日俱增。安全漏洞的影响以及进行网络攻击的方式因 RPA 和人工智能而异，如第 10 页的表 1 所示。您的智能数字化劳动力是否安全？网络攻击？9 表 1：RPA 和 AI 漏洞汇总IA能力用例和应用程序漏洞和影响RPA在不同领域使用组织来自动化大量和重复性任务。示例包括：•更新核心系统信息•处理付款和发票•发送信件和电子邮件•在客户帐户上打开和执行操作系统妥协通过恶意软件或欺骗窃取机器人的凭据以访问关键系统和应用程序。数据泄露闯入机器人的日志以获取敏感的客户或组织数据。关键操作的不稳定通过重新指向它来执行恶意脚本来修改机器人的代码。人工智能人工智能驱动的系统已用于金融服务的不同领域，包括面向客户和面向员工的角色。示例包括：•向客户推荐其他产品，例如信用卡、保险单和股票•评估客户风险以确定资格或额外的筛选要求•图像和文档分类，用于识别文档类别并提取各种信息——例如扫描的法律文档中的关键方，或支票和发票中的金额•NLP 用于检测不良媒体存在和自然语言生成以进行客户沟通对抗性人工智能注入对抗性训练实例，为模型引入“新规范”，例如伪造信用卡资格或禁用欺诈警报机制。算法灵敏度利用各种算法对特定输入的敏感性特征。例如，图像分类算法对输入图像中的某些“噪声”（人眼不太明显）存在弱点，这可能导致扫描文本上的数字出现严重错误分类。可解释性获得模型的可解释性日志以了解其决策逻辑并通过提供保证有利结果的输入数据（例如包括特定情绪或语言结构以绕过警报）来“欺骗系统”。资料来源：埃森哲，2020 年 4 月10 好机器人和坏演员 如何保护 RPA 和人工智能劳动力您的智能数字化劳动力是否安全？网络攻击？11 信息安全是整个组织的一个关键优先事项和持续关注的问题金融服务业——如果没有适当的治理和工具，新兴技术可能会带来额外的压力。随着针对这些技术的网络攻击的不断发展，保持整体安全方法并定期审查现有安全流程非常重要。这些安全审查不应作为一次性活动执行，而应作为完全集成到生命周期每个部分的持续迭代任务来执行。图 3 概述了我们推荐的安全保证方法。这将机密性、完整性和可用性的安全要求与美国国家标准与技术研究院 12 网络安全框架的核心功能相结合：识别；保护;检测和响应；并恢复稍后解释。图 3：埃森哲推荐的安全保证方法资料来源：埃森哲，2020 年 4 月12 好机器人和坏演员保密确认检测和响应正直可用性人员安全算法和代码安全训练数据安全基础设施安全安全治理保护恢复 有效安全框架的关键组成部分埃森哲的安全保障框架建立在四个关键控制组件之上：识别、保护、检测和响应以及恢复，这些组件源自 NIST 网络安全框架的核心功能。在评估这些组件时，必须考虑信息安全的三个主要支柱：机密性、完整性和可用性。确认识别组件有助于了解组织对系统、人员、资产、数据和能力的安全风险。关键属性包括：•管理数据、人员、设备和设施•确定组织使命、角色和职责、目标和活动的优先级•了解政策、程序、流程、监管要求、法律风险、环境和运营要求•了解组织的优先事项、约束和风险承受能力保护保护组件概述了提供关键服务的适当保护措施。关键属性包括：•身份管理和访问控制•安全政策、用户培训和意识•建立与组织风险战略一致