人工智能系统的开发和使用的战略愿景

与委员会的沟通 欧盟委员会的人工智能（AI @ EC） 促进欧盟委员会开发和使用合法，安全和值得信赖的人工智能系统的战略愿景 EN EN 目录 1.I介绍22.C确保合法的行动,安全和值得信赖AI 42.1.2.2.3.STATE OF PLAY:现有和信仰AI在委员会........................................................................................................................................73.1.3.2.3.3. 4.NEXT步骤10 For the purposes of this Communication, the definition of人 工 智 能(AI) system in the ArtificialIntelligence Act1 applies. All related definitions found in the Artificial Intelligence Act also apply. Allreferences will be updated as necessary following the Act of the Act. 1.I介绍 人工智能技术已经对我们所有人产生了重大影响，无论是个人还是组织，包括委员会。生成AI的出现标志着一个变革性的转变：支持我们的工作人员，减轻行政负担，提高委员会工作的质量和影响的前所未有的可能性，但也显然需要增加我们对AI的理解以及识别和解决风险的能力，以确保AI的使用是安全，透明，值得信赖和以人为本的。该委员会致力于支持，加速和促进委员会内部值得信赖的人工智能的开发和部署，并在可能的情况下与公共和私营部门的合作伙伴，特别是初创公司和创新者。 与《人工智能法》一致，术语“人工智能系统”用于基于机器的系统的通信，这些系统旨在以不同级别的自主性运行，并且在部署后可能表现出适应性，对于明确或隐含的目标，从它收到的输入中推断如何生成可能影响物理或虚拟环境的输出，如内容、预测、建议或决策2。 从这个角度来看，人工智能是委员会及其工作人员在日常工作流程和服务中变得更加有效和高效的一个可喜的机会，包括迄今为止不可能实现的新服务。这些新服务可以包括分析、起草、政策准备和决策方面的支持，或者与公众互动的新形式。在鼓励使用人工智能方面，委员会仍然毫不妥协地关注人。人工智能必须成为支持员工和以人为中心的政策制定的工具，符合欧盟法律和基本权利3。委员会工作人员将获得他们成为AI工具熟练用户所需的指导和培训。 目的是确定人工智能使用对员工日常工作体验产生最大积极影响的领域，例如减轻重复和耗时的任务带来的负担，或者为同事提供改进政策设计和促进政策实施的工具。目标还在于优先考虑可在各种政策领域和用例中重复使用或应用的工具的投资，例如分析大型和多样化的数据源，汇总和模式识别，或支持与公众的多语言互动。 自2018年以来，委员会一直积极参与：（i）制定与人工智能相关的政策4和内部系统，以及（ii）提供资金以支持 欧盟值得信赖的人工智能技术。人工智能是使欧洲适应数字时代5并将未来10年转变为欧盟数字十年6战略的关键要素，正如委员会的“数字指南针”通信7中所述。 公共部门可以而且应该在这一数字AI转型中发挥关键作用8。委员会明确要求在公共部门加速采用值得信赖的人工智能技术。委员会与成员国商定的2021年人工智能协调计划9，特别概述了可以促进公共部门采用人工智能的好处和行动。在这方面，委员会旨在实现其系统现代化，并以身作则，在公共部门部署和使用值得信赖的人工智能技术。 然而，人工智能技术也存在风险和局限性。这些技术可能会：（i）损害公共和私人利益，（ii）违反数据隐私，信息安全和受联盟法律保护的知识产权，以及（iii）在信息和工作流程中引入偏见。安全地部署AI并在避免风险的同时获取收益，构成了重大挑战。 为了应对这一挑战，欧盟立法者目前正在敲定议会和理事会关于人工智能协调规则的条例（“人工智能法案”）。人工智能法案遵循基于风险的方法，为对安全和基本权利构成高风险的人工智能系统设定要求，并禁止某些违反欧盟价值观的做法。它将补充欧盟在产品安全方面的法律，以确保在欧盟市场上投放的AI系统是值得信赖的。然而，这项立法要完全适用还需要一段时间。为了缩短《人工智能法》生效之前的期限，委员会宣布了一项人工智能公约，邀请人工智能开发人员准备并预期《人工智能法》的要求。充分拥抱人工智能技术的好处和机会，委员会本身现在已经树立了一个积极的榜样，并遵守设想的规则。 委员会欢迎七国集团领导人10就《人工智能国际指导原则》和《广岛进程下人工智能开发者自愿行为准则》达成协议。这些原则和《自愿行为守则》将在国际一级补充《人工智能法》的具有法律约束力的规则。本通讯概述了一个愿景，并介绍了具体行动。委员会将建立机构和运营能力，以确保开发和使用值得信赖的AI技术。它建立在人工智能的内部经验以及委员会提出的法律和政策框架的基础上，并确定了人工智能对委员会及其工作人员最有利的重要领域。 人工智能将给我们的工作方式带来深刻的变化，加强了对委员会完全数字化的承诺，这是预算和行政专员使命的关键部分。数字技能对于所有员工，组织的各个级别和各个年龄段的员工都至关重要。它们是我们工作方式的基础，人工智能技能将是这种转变的核心部分。我们都需要接受新技术。这种过渡需要以包容性的方式进行，同时考虑到当前工作人员在数字素养和能力方面的差异。将通过有针对性的培训和指导，包括通过重新培训和提高技能的机会来支持工作人员。 委员会还将制定关于开发和使用合法、安全、值得信赖人工智能系统以人工智能法案、现有相关立法、委员会政策和规定、人工智能高级别专家组制定的可信人工智能12道德准则以及其他来源的最佳实践为基础，实现本通信中提出的目标和行动。 这一愿景和这些运营解决方案必须具有生命力，将定期对其进行审查和更新，以反映：（i）人工智能技术的动态性质；（ii）经验教训；（iii）适用的监管和政策框架的变化。 2.C确保合法的行动,安全和值得信赖AI 2.1.委员会作为人工智能法案基于风险的方法的早期采用者 随着这份来文的通过，委员会开始为即将出台的规则做准备，并在《人工智能法》获得通过并生效后，为实施该法案采取了第一批行动。这需要采取以下行动: 制定内部运营指南，为员工（AI系统的用户，开发人员或采购人员）提供清晰而务实的指导，以指导如何将此类系统投入运营。根据基于风险的方法并使用委员会的操作指南，对正在使用或计划由委员会使用的AI系统进行分类和评估。避免使用任何被认为与欧洲价值观不符或对人们的安全，安全，健康和基本权利构成威胁的AI系统。建立组织结构（治理），以履行委员会在人工智能方面的义务。 在此过程中，委员会将考虑：（i）计划中的欧盟政治和立法举措； （ii）所有适用的现行立法，包括关于不歧视、可访问性、信息安全和数据保护的立法；（iii）行业以及国家和国际层面的最佳做法和范例。 2.2.确保在委员会中采用值得信赖的AI的运营和组织行动 为了促进在委员会中发展和采用值得信赖的人工智能，委员会将采取以下组织和业务行动。 2.2.1.组织行动 委员会建立了专门的内部AI治理，其任务是： o评估新IT投资中的AI方面（通过已建立的公司IT治理）。o支持和监督委员会业务准则的遵守情况。o支持广泛的“自下而上”的感兴趣的同事网络，以延续现有的AI @ EC网络。 这种治理建立在以下新的和现有的机构的基础上： o现有的企业AI @ EC网络一个全委员会的社区，将用户、感兴趣的工作人员和技术专家聚集在一起，主要目标是分享信息，提高认识，并确定人工智能联合活动和探索的机会。为了促进AI在整个委员会中的实际实施，AI @ EC网络将根据三个主要方面组织活动：（i）确定AI机会和用例以及潜在风险；（ii）促进探索新的AI项目和服务；（iii）在AI领域建立和共享知识。它还将与其他AI社区和计划以及数字创新行动保持联络。AI @ EC网络由DGT领导，在新成立的AI服务间指导小组的授权下，与相关DG的代表合作。该网络将向跨服务指导小组提出任何项目和投资建议，以通过现有的公司IT治理进行评估和决策。o 跨服务AI指导小组(ISG - AI)-作为信息管理指导委员会的新分组的基础。指导小组负责协调和实施AI @ EC倡议，并监督AI @ EC网络的活动。ISG - AI将制定政策，建立框架，确定协同作用并起草在委员会中使用AI的业务准则。它将：（i）推动和监控人工智能的公司实施，（ii）支持信息技术和网络安全委员会评估新的人工智能计划，以及（iii）支持道德、法律和监管合规。ISG - AI将由DIGIT领导，与由DG DGT，OP，DG HR，DG CNECT，SG和JRC组成的总监级核心小组合作，并向感兴趣的DG的代表开放，特别是那些已建立或计划的AI倡议13。ISG - AI定期向ITCB和IMSB报告，并将任何项目和投资引导到公司IT治理。o 信息管理指导委员会(IMSB)这个现有的委员会确保与人工智能相关的举措与委员会的信息和数据政策保持一致。o 信息技术和网络安全委员会(ITCB)ITCB将定期向公司管理委员会(CMB)报告重大人工智能项目。 委员会的任务ISG - AI，AI @ EC网络和现有服务，例如云卓越中心，委员会的中央知识产权服务，组织变革中心和数据保护官，以支持员工和服务漫游访问AI相关信息、建议和帮助。这应该与欧盟委员会未来的人工智能办公室保持密切联系，该办公室将在人工智能法案的实施和执行中发挥关键作用。 2.2.2.运营行动 建立和维护AI系统的最新登记册在委员会使用，根据公司准则和法律要求进行评估.负责：ISG - AI和公司治理委员会。时间表：Q2 / 2024，然后连续。建立和维护现有AI计划的列表并提出他们的优先级鉴于创建企业AI服务。负责人: AI @ ECNetwork, ISG - AI,公司治理委员会。时间线: Q2 / 2024,然后季度。制定具体的操作指南：员工专题指南，适用于人工智能解决方案的选择、获取、开发、测试和部署(位于 corporate and policy level), taking a risk - based approach, including general and specific AI securityrelated topics. Responsible: ISG - AI and corporate governance board. Timeline: Q2 / 2024, thenupdates as appropriate. 制定使用特定AI系统的指南：使用特定工具的规则，例如已经为使用第三方在线生成人工智能工具制定了内部指南。负责人：ISG - AI和公司治理委员会。时间线：现有，由Q2 / 2024审查，然后酌情更新。 制定政策以建立和维护具有AI技能的劳动力在委员会中有效利用人工智能取决于工作人员准备好接受技术并有效使用它。将帮助员工了解如何促使人工智能系统获得最有用的结果，以及如何批判性地评估产出。他们将接受培训，以有效地理解和使用AI系统。该委员会将确定现在和未来所需的人工智能技能，并制定专门的学习计划，为各级工作人员提供实用、易于使用的建议。这些人工智能技能将反映在未来所有员工的招聘中。此外，委员会将定义和招募在政府内部开发AI工具所需的专家档案。负责：AI @ EC网络，ISG - AI和HR。时间表：Q3 /2024。 映射不同作业组可能的提升技能/重新技能需求：DG HR与当地HR通讯员合作，将与不同工作组的员工合作，以确定与执行特定任务相关的技能方面的当前和未来需求（例如Procedre文档起草，格式化和编辑