2024-2025年人工智能初步战略与部署路线图

Contents 导言 5 7使用 AI 进行审计 / 审计 AI 审计中的 AI ： 增强能力7审计 AI ： 确保完整性和有效性8 目标和目的 10 目标 1 ： 通过 AI 工具提高审计的运营效率10目标 1.1 ： 增加 ECA 工作人员关于如何使用人工智能的知识10目标 1.2 ： 确保 ECA 在技术上为人工智能做好准备10目标 1.3 ： 引入 AI 工具来支持审计过程11 目标 2 ： 建立 ECA 审计基于 AI 的项目、系统的能力和过程 1212目标 2.2 ： 在我们的审计方法中增加人工智能方面目标 2.1 ： 提高 ECA 工作人员对 AI 工作方式及其相关风险的了解 12目标 3 ： 增加价值并为欧盟范围和国际上关于人工智能的讨论做出贡献 目标 3.1 ： 积极为欧盟和国际工作组作出贡献12目标 3.2 ： 使 ECA 的 AI 知识可用于其他欧盟 SAI13 风险分析和缓解策略 14 一般 AI 风险 14 对 AI 逻辑的透明度和监督有限14有偏见或歧视性的产出14隐私、数据保护和安全问题15 与实施有关的风险 15 151616资源和技能不足 ， 无法进行有效部署部署已经过时的服务声誉风险 AI 路线图提案 17 行动 1 ： 制定并跟进详细的沟通计划19行动 2 ： 为 ECA 员工创建 AI 培训路径22行动 3 ： 加强提供的数据服务22 行动 4 ： 为新工具或增强工具建立项目提案组合 24 行动 4.1 ： 创建 “审计草稿助理 ” 工具 25行动4.2：定制并部署一个工具，用于从大型文档集中检索信息，采用基于问题与答案的交互式方法。26 27行动 4.3 ： 使用 AI 后端扩展 DORA 工具 ， 用于摘要和其他自然语言处理任务 27行动 4.4 ： ECA 自己生产的语义搜索引擎 29Action 4.5: Training a chatbot with internal knowledge of audit methodology来自 AWARE 和其他质量受控来源 29行动 4.6 ： 评估用于调查分析的 EC DORIS 工具 30行动 4.7 ： 将 AI 组件添加到机器人流程自动化 (添加智能到重复性任务的自动化) 30行动 4.8 ： 向现有的数据科学和可视化工具添加对 AI 的访问权限 30及相关治理 行动 6: 促进机构间和国际合作 31 闭幕词 34 附件一 - 主要监管框架概述 35 全球主要监管方法监管 AI 安全和安保对非洲经委会的影响 353839 40附件二 - 其他机构在人工智能方面做了什么 ？ 4042434346机构间和国际工作组European Commission其他欧盟机构欧盟最高审计机构其他非欧盟审计机构 附件三 - 开发还是购买 ？ 基于云的商业产品与本地工具 485050介绍和定义可用选项 ， 截至 2024 年 2 月结论和建议 ： 在 AI 部署中启动双重方法(开发和购买) 52附件四 - 风险绘图和分析 Introduction 01在2023年10月，随着人工智能（AI）领域一系列突破性进展的出现，欧洲审计法院（ECA）开始就其在机构内的应用进行内部反思，并发布了题为“应对和利用人工智能的机会与挑战”的论文。作为后续工作，本文件进一步分析了关键问题，并概述了初步的AI战略及部署路线图。 02当前的ECA战略涵盖2021年至2025年的时期。下一战略的准备工作很可能即将开始，并且需要全面反映AI方面的内容。这一初始战略应允许以结构化的方式启动AI活动的实施，并为下一届ECA战略提供输入。 03人工智能是一种深刻变革的技术，但它不会替代我们审计师的批判性思维和专业判断。我们设想一种利用人工智能的方式，以协助我们的工作人员并增强其能力，从而实现更加及时、高效且基于坚实依据的审计。我们将秉持最高道德标准，在部署和使用人工智能系统时防止偏见，优先确保透明度，并保持谨慎和职业怀疑态度。我们将忠于我们核心的价值观：独立性、客观性、正直、透明度和专业性。我们的愿景是利用人工智能作为助力，最终推动欧盟范围内更大的问责制、透明度和信任。 04在本文件中，我们解释了人工智能在审计中的应用以及对人工智能系统的审计，并澄清了两者之间的区别。随后，我们提出了一套欧洲议会审计处（ECA）的目标和目标，在风险分析之后，提出了一个包含具体行动的人工智能路线图。 05我们认为提议的行动是现实可行的，基于成功的测试和验证的概念证明，以及在其他机构中的经验。然而，由于该领域仍处于初级阶段，且很少有专业人士获得了足够的这些技术的经验，我们无法提供一个足够可靠的时间和成本估算，以满足所需的IT开发需求。因此，我们建议启动正式的IT项目，这些项目将由相关的IT治理机构进行分析、优先级排序和批准。 06为了提供本文档的必要背景 ， 我们简要回顾了当前的人工智能监管框架 (请参阅附件一), 我们收集了其他机构和欧盟最高审计机构（SAIs）在人工智能领域所开展工作的信息（详见附件二) 并进行了初步的“自制或采购”分析，特别是针对基于云或本地解决方案 之间的差异（详见附件三). 07尽管当前充满热情，我们并不认为（生成型）AI会在短期内或中期内彻底改变我们的核心流程或大幅提高生产力。我们认为，在未来几年内，许多甚至可能是所有专业日常任务都可以得到AI的帮助，预计生产力将提高约10%。1.虽然这一数字可能看似微小，但如果横向应用，累积的效果在效率和有效性方面将显著提升。 08人工智能领域正在快速发展，因此可用于本文件的内容也在不断增多。我们选择了2024年2月作为包含新信息的实用截止日期。然而，我们制定了一个沟通计划，说明ECA同事将如何定期接收更新的信息。 使用 AI 进行审计 / 审计 AI 09人工智能在审计领域的影响是两方面的：一方面，人工智能有潜力提高审计过程的效率和效果；另一方面，当被审计方使用此类技术时，审计师需要重新思考并适应其方法。与任何技术创新一样，人工智能带来了自身的挑战，并需要深入的理解。本章探讨了人工智能对公共审计机构的双重作用，包括使用人工智能进行审计以及未来审计基于人工智能系统的挑战。 审计中的 AI ： 增强能力 10AI 可以显着增强审计团队的能力 ， 特别是通过帮助耗时的任务 ， 例如 ： o文档分析：人工智能算法可以高效地筛选大量多语言文档集，识别模式、异常和关键信息，这可能需要人类审计员花费更长的时间处理，并且结果可靠性较低； o风险评估AI可以通过快速分析数据趋势并帮助识别潜在的关注领域，从而增强风险评估程序，使审计计划更快捷且更具相关性； o例行任务自动化常规任务使审计人员能够专注于审计过程中的更复杂方面，从而提高整体效率。 11此外，生成式AI可以协助审计人员起草文件，并指导他们在应用我们的方法论方面的工作。我们在反思论文《应对和利用人工智能的机会与挑战》中概述了几个实际的应用案例。 12为了充分利用AI在审计中的应用，对审计人员进行全面培训至关重要。培训不应仅侧重于AI工具的操作方面，还应包括： o理解 AI 输出员工必须具备准确解读AI输出的能力，认识到其局限性和潜在偏差，并理解AI辅助但不能替代人类判断； o伦理考虑培训应涵盖AI使用中的伦理考虑，确保自动化过程的透明性和公平性。 审计 AI ： 确保完整性和有效性 13随着人工智能系统成为被审计方业务流程不可或缺的一部分 ， 我们必须做好审计准备。 14一个关键问题是审计实体是否以及如何在其业务活动中处理人工智能（AI），特别是它们是否制定了AI战略并建立了相关治理措施。如果它们未使用AI，我们应评估这给被审计单位的业务流程带来的风险。此外，还需要验证我们的被审计单位如何应对与他们有合同关系的第三方在使用AI方面带来的一些风险。 15审计AI可以作为一般IT审计方法的一个新组成部分；这涉及评估AI的使用情况、输出影响、运行效果、决策过程，以及是否符合被审计方的伦理标准和其他相关标准。表 1提供了审计师需要考虑的要素的非详尽列表 ： 16 准备审计 AI 系统包括 ： o建立 AI 素养通过对员工和管理层的专门培训 ；o调整我们的审计框架通过包括 AI 特定的清单和程序 ；o监测和协作与专业协会和国际工作组制定审计标准和框架 ；o持续学习以确保我们的方法随着技术、法规和政策的进步而发展。 目标和目的 目标 1 ： 通过 AI 工具提高审计的运营效率 17审计中技术的应用是实现ECA在2021-2025战略中提出目标的关键推动因素。通过有效利用人工智能，我们旨在逐步提高审计程序的效率，增强我们的分析能力，并促进一种更加动态的审计方法。 目标 1.1 ： 增加 ECA 工作人员关于如何使用人工智能的知识 18为了利用人工智能在审计过程中的潜力，我们必须提升员工的人工智能素养。我们已经启动了一项全面的培训计划，旨在不仅提供人工智能技术及其运作的基本理解，还提供在审计过程中所需的实际指导和技巧。员工适当的人工智能素养是成功部署人工智能工具的必要前提条件。 目标 1.2 ： 确保 ECA 在技术上为人工智能做好准备 19为整合AI准备我们的技术基础设施、政策和程序是实现主要目标的关键步骤。我们将对现有系统和流程进行全面审查和改进。这可能包括升级技术支持AI能力的基础设施、修订政策以纳入AI伦理和治理，并调整程序以优化AI的实施。 20最近，国际标准化组织发布了新的人工智能管理系统标准。2。 ECA 应考虑实施标准中相关的部分。 Box 1 什么是 ISO / IEC 42001 ？ ISO/IEC 42001是全球首个AI管理系统标准，为这一快速变化的技术领域提供了宝贵的指导。它解决了AI带来的独特挑战，如伦理问题、透明度和持续学习。对于组织而言，它提供了一种结构化的方法来管理与AI相关的风险和机遇，平衡创新与治理。 资料来源 ： https: / / www. iso. org / standard / 81230. html 。 目标 1.3 ： 引入 AI 工具来支持审计过程 21在审计过程中引入人工智能工具与我们通过技术提升审计质量的战略目标相一致。我们将识别并实施最先进的AI工具，这些工具能够处理和起草文本、高效分析大数据集、识别模式并提供超越传统审计方法范围的见解。这些工具将协助我们的审计人员并增强其能力，提高审计程序的效率，并可能允许进行更深入的审计。我们将致力于确保在部署AI工具时严格遵守数据保护及其他相关法规。我们将通过在相关页面引入链接，在AWARE中提供这些工具。 目标 2 ： 建立 ECA 审计基于 AI 的项目、系统和流程的能力 22The ECA致力于在其审计能力与能力方面发展以审查基于AI的项目、系统和流程，以在充满挑战和变化的环境中提供强有力的可靠证据。这一目标与我们更广泛的策略——适应数字化转型趋势——相一致。随着AI开始在欧盟内的金融和政策倡议中被使用，我们必须相应地演进我们的IT审计方法和工具。 目标 2.1 ： 提高 ECA 工作人员对人工智能及其工作原理的了解相关风险 23在审计基于人工智能系统的旅程中，第一步是确保我们的员工深入理解人工智能技术及其应用，并意识到相关风险。我们将启动有针对性的培训和研讨会，以加深审计人员对人工智能算法、数据依赖性和潜在偏见的理解。我们还将为员工提供质疑和批判性评估人工智能系统的能力。这将使我们的审计能够评估这些技术的性能和完整性。 目标 2.2 ： 在我们的审计方法中增加人工智能方面 24开发我们的方法论以纳入对基于AI的过程审计的具体考虑是实现这一目标的另一项重要步骤。我们将更新并扩展我们在AWARE中的IT审计方法论及其他指导，并在其他相关指南中纳入AI特定的问题。这些内容将涵盖数据质量、算法透明度、伦理使用以及符合欧盟法规