FR06/2021 市场中介和资产管理公司对人工智能和机器学习的使用

小号八月2021FR06/2021市场中介机构使用人工智能和机器学习和资产管理者总结报告董事会的我国际○组织小号证券C遗漏 2出版物的副本可从以下网址获得：国际证券委员会组织网站 www.iosco.org© 国际证券委员会组织 2021。保留所有权利。如果注明出处，可以复制或翻译简短的摘录。 3内容章节页1执行摘要12背景和范围43公司如何使用 AI 和 ML 技术64识别出使用 AI 和 ML 带来的风险和危害95公司对使用人工智能和机器学习带来的潜在风险的反应146指导17A1监管机构如何应对 AI 和 ML 带来的挑战22A2超国家机构发布的指南34A3反馈声明38 1第 1 章 - 执行摘要背景由于数据可用性和计算能力的提高，人工智能 (AI) 和机器学习 (ML) 越来越多地用于金融服务。市场中介和资产管理公司对人工智能和机器学习的使用可能正在改变公司的商业模式。例如，公司可以使用人工智能和机器学习来支持他们的咨询和支持服务、风险管理、客户识别和监控、交易算法的选择和投资组合管理，这也可能改变他们的风险状况。市场中介和资产管理公司使用这项技术可以为公司和投资者创造显着的效率和利益，包括提高执行速度和降低投资服务成本。但是，这种使用也可能会产生或放大某些风险，这可能会对金融市场的效率产生影响，并可能导致消费者受到伤害。因此，在金融市场中使用和控制人工智能和机器学习是全球监管机构当前关注的焦点。IOSCO 将其在市场中介机构和资产管理公司使用 AI 和 ML 方面的工作确定为关键优先事项。 IOSCO 董事会于 2019 年 4 月批准了第 3 委员会市场中介机构 (C3) 和第 5 委员会投资管理 (C5) 的任务，以审查人工智能和 ML 监管产生的最佳实践。1 委员会被要求提出指导意见成员司法管辖区可考虑采用以解决与 AI 和 ML 的开发、测试和部署相关的行为风险。咨询报告中确定的潜在风险IOSCO 调查并与市场中介机构举行了圆桌讨论会，并与资产管理公司进行了接触，以确定 AI 和 ML 的使用方式以及相关风险。 20202 年 6 月发布的咨询报告强调了以下领域，在这些领域可能会出现与 AI 和 ML 的开发、测试和部署相关的潜在风险和危害： 治理和监督； 算法开发、测试和持续监控； 数据质量和偏差； 透明度和可解释性； 外包；和 道德问题。1董事会优先事项 - IOSCO 2019 年工作计划，2019 年 3 月 25 日，参见：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf2市场中介机构和资产管理公司对人工智能和机器学习的使用，IOSCO 董事会咨询报告，2020 年 6 月，网址为：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf 2国际证监会组织指引根据收到的咨询报告回复，本最终报告提供指导，以协助 IOSCO 成员监督使用 AI 和 ML 的市场中介机构和资产管理公司。该指南包括六项措施，反映了市场中介机构和资产管理公司使用 AI 和 ML 的预期行为标准。尽管该指南不具有约束力，但鼓励 IOSCO 成员在其法律和监管框架的背景下仔细考虑这些措施。 IOSCO 成员和公司在实施这些措施时还应考虑任何回应的相称性。随着技术的进步，人工智能和机器学习的使用可能会增加，监管框架需要同步发展以应对相关的新兴风险是合理的。因此，本报告（包括定义和指南）可能会在未来进行审查以保持最新。措施一：监管机构应考虑要求公司指定高级管理人员负责监督人工智能和机器学习的开发、测试、部署、监控和控制。这包括一个记录在案的内部治理框架，具有明确的责任范围。高级管理层应指定一名适当的高级个人（或个人组），具有相关技能和知识，以签署技术的初始部署和实质性更新。措施2：监管机构应要求公司充分测试和监控算法，以持续验证 AI 和 ML 技术的结果。测试应在部署前与实际环境隔离的环境中进行，以确保 AI 和 ML：(a)在有压力和无压力的市场条件下表现如预期；和(b)以符合监管义务的方式运作。措施 3：监管机构应要求公司拥有足够的技能、专业知识和经验来开发、测试、部署、监控和监督公司使用的人工智能和机器学习控制。合规和风险管理职能应该能够理解和挑战生成的算法并对任何第三方提供商进行尽职调查，包括现有的知识、专业知识和经验水平。措施 4：监管机构应要求公司了解他们对第三方供应商的依赖并管理他们与第三方供应商的关系，包括监督他们的表现和进行监督。为确保充分的问责制，公司应制定明确的服务水平协议和合同，明确外包职能的范围和服务提供商的责任。该协议应包含明确的绩效指标，还应明确确定绩效不佳的权利和补救措施。 3措施 5：监管机构应考虑公司要求对 AI 和 ML 的使用进行何种程度的披露，包括：(a)监管机构应考虑要求公司向客户和客户披露影响客户结果的人工智能和机器学习使用情况的有意义的信息。(b)监管机构应考虑他们可能需要使用 AI 和 ML 的公司提供哪些类型的信息，以确保他们能够对这些公司进行适当的监督。措施 6：监管机构应考虑要求公司采取适当的控制措施，以确保 AI 和 ML 的性能所依赖的数据具有足够的质量以防止出现偏差，并且对于 AI 和 ML 的有根据的应用而言足够广泛。 4第 2 章 - 背景和范围之前 IOSCO 在该领域的工作IOSCO 已就在金融市场中使用 AI 和 ML 开展了多项工作流程，包括： 新兴风险委员会 (CER)：CER 授权使用监管机构部署的新技术来提高监管和监督计划的效率和有效性，并于 2017 年 2 月发布了一份报告。3 CER 检查了大数据分析和数据可视化技术等工具的监管使用情况；人工智能和机器学习，以及深度学习技术；和分布式账本技术。 二级市场监管委员会（C2）：C2 于 2013 年 4 月发布了一份关于有效市场监督问题和监管工具的技术挑战的报告。4 该报告提出了帮助市场主管部门解决有效市场监督面临的技术难题的建议。IOSCO 金融科技网络：IOSCO 金融科技网络于 2018 年 5 月成立，旨在促进 IOSCO 成员之间的知识和经验共享。 IOSCO 金融科技网络考虑了使用人工智能和机器学习技术的伦理影响。IOSCO 授权在前期工作的基础上，IOSCO 于 2020 年 6 月发布了《市场中介机构和资产管理人使用 AI 和 ML 的咨询报告》，提出了解决这些机构使用 AI 和 ML 可能带来的潜在风险和危害的指导意见。市场中介机构和资产管理公司。拟议指南旨在帮助确保市场中介机构和资产管理公司： 针对 AI 和 ML 的开发、测试、使用和性能监控的适当治理、控制和监督框架； 具有足够知识、技能和经验来实施、监督和挑战 AI 和 ML 成果的员工； 稳健、一致且明确定义的开发和测试流程，使公司能够在全面部署 AI 和 ML 之前识别潜在问题；和 向其投资者、监管机构和其他相关利益相关者提供适当的透明度和披露。3IOSCO 金融技术研究报告（Fintech），2017 年 2 月，网址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD554.pdf4有效市场监督问题和监管工具的技术挑战，2012 年 8 月，网址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD389.pdf 5本最终报告确认了咨询报告中提出的指导意见，并对其进行了修改，以酌情考虑收到的答复。为本报告定义术语 Al 和 ML人工智能人工智能一词最早由数据科学家 John McCarthy5 在 1956 年创造，被定义为“制造智能机器的科学和工程”，或者简单地说，研究使计算机模仿人类决策来解决问题的方法。人工智能包括学习、推理、计划、感知、语言理解和机器人等任务。金融服务行业的人工智能仍处于相对起步阶段，并有望变得更加普遍，随之而来的是法律、道德、经济和监管方面的挑战。机器学习机器学习这个术语是人工智能的一个子集和应用，它专注于计算机程序的开发——旨在从经验中学习，而无需明确编程。ML算法分为三类——监督学习、无监督学习和强化学习。这些类别的使用基于可用数据的类型和提供反馈所需的人工干预水平。深度学习涉及训练具有多层单元的神经网络（计算系统），其灵感来自人脑结构，还可以包括以下任何类别：6 监督学习：该算法被输入一组已标记的初始数据。基于这个训练集，算法将学习分类规则并预测数据集中剩余观察值的标签。 强化学习：该算法被输入一组未标记的初始数据，并被要求识别由相似特征支撑的观察集群。当它为数据点选择一个动作时，它会收到有助于它学习的反馈。 7 无监督学习：该算法通过识别由相似特征支持的观察集群来检测数据中的模式——它自己揭示了数据的结构。5什么是人工智能？可在：http://jmc.stanford.edu/artificial-intelligence/index.html6 深度学习是一种分析多层数据的方法，从学习简单概念开始，然后学习更复杂的概念。深度学习可用于所有三类机器学习算法。改编自 https://www.ibm.com/cloud/learn/machinelearning 上的“什么是机器学习？”。一个著名的例子是围棋游戏中的“第 37 步”：当 Google 的 AlphaGo5 算法在 2016 年 3 月与职业围棋选手李世石对垒时，在第 37 回合做出了以前无法想象的一步。该算法使用深度学习，这是一种 ML 技术，可以有效地从非常大的数据集中学习关联和统计模式。7R Sutton，A Barto，强化学习：介绍，麻省理工学院出版社，1998 年。 6第 3 章——公司如何使用 AI 和 ML 技术市场中介机构和资产管理者使用人工智能和机器学习随着市场中介机构和资产管理公司对人工智能和机器学习的理解不断加深，他们对人工智能和机器学习的使用也在增加。电子交易平台使用的增加和可用数据的增加促使公司考虑在多个领域使用人工智能和机器学习，包括用于交易和咨询活动，以及风险管理和合规。IOSCO 公司的参与表明，在金融市场中，正在采用人工智能和机器学习来增强现有流程和活动，以降低成本并提高效率。人工智能和机器学习正在释放资源，专注于更多认知方面，例如战略、投资组合选择和产生投资理念。市场中介机构正在将这项技术部署在： 咨询和支持服务； 风险管理; 客户识别和监控； 交易算法的选择；和 资产管理/投资组合管理。资产管理公司对 AI 和 ML 的使用似乎处于初期阶段，主要用于支持人类决策。 AI 和 ML 技术被用于： 优化投资组合管理； 通过提出投资建议来补充人力投资决策过程；和 提高内部研究能力，以及后台功能。一些资产管理公司也开始将 AI 和 ML 用于订单执行、经纪人选择和订单路由目的（包括通过算法轮等方法）。 8咨询和支持服务根据 IOSCO 的行业参与，大多数机器人顾问或自动投资顾问使用简单的、基于规则（即演绎）的算法，尽管有些人开始使用预测性 ML 算法。在使用机器学习提供咨询服务的情况下，大多数公司都有人工干预流程。因此，自动建议系统通常仅限于生成潜在建议或资产配置以供投资顾问审查。然后，投资顾问可以酌情使用人工智能生成的建议，并在合适的情况下向客户提出建议。8 算法轮可能在世界不同地区执行不同的功能。在这种情况下，我们将算法轮定义为一种软件/模型，该软件/模型聚合数据以选择策略和经纪人，通过这些策略和经纪人发送订单，然后生成一份报告，说明特定交易的方式和地点背后的原因。 7风险管理风险管理涉及使用数据定价和管理风险敞口，包括信用、市场、运营和流动性风险。市场中介机构正在利用基于机器学习的风险管理系统进行信用风险监控，这有助于提供潜在客户违约的预警指标，并有助于创建对客户风险状况的动态衡量，以便更好地了