AI全球研究会议

TABLE OF CONTENTS �- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -Section 4: Research Priorities to Advance Safe, Secure, Inclusive, and Trustworthy AI � � �第 5 节: 推荐研究实践 - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -第 2 节 ： 介绍 - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -第 1 节: 内容提要 - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -第 6 节 ： 结论 - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -第 3 节: AI 研究推荐原则4.1 社会技术研究��������������������������������������������������������������������������������������������������������������������������������������134.2 包容性研究基础设施����������������������������������������������������������������������������������������������������������������������164.3 支持 AI 应对全球挑战的研究��������������������������������������������������������������������������������������������������194.4 AI 基础研究 ， 包括 AI 安全、安全和信任��������������������������������������������������������244.5 人工智能全球劳动力市场影响研究����������������������������������������������������������������������������������������285.1 研究资助者��������������������������������������������������������������������������������������������������������������������������������������������������385.2 研究生态系统中心����������������������������������������������������������������������������������������������������������������������������������405.3 研究团队����������������������������������������������������������������������������������������������������������������������������������������������������412.1 关于安全、可靠和可信的人工智能开发和使用的行政命令�������������������������������������������72.2 国家人工智能研发战略计划�������������������������������������������������������������������������������������������������������������������������������82.3 国际人工智能研究努力���������������������������������������������������������������������������������������������������������������������������82.4 全球人工智能研究议程的定义�����������������������������������������������������������������������������92.5 焦点和受众����������������������������������������������������������������������������������������������������������������������������������������������10 术语表 AI ： 人工智能GAIRA ： 全球人工智能研究议程研发 ： 研发STEM ： 科学 ， 技术 ， 工程和数学劳工组织 ： 国际劳工组织NIST ： 国家标准与技术研究所PPP ： 公私伙伴关系经合组织 ： 经济合作与发展组织可持续发展目标 ： 联合国可持续发展目标NSF ： 国家科学基金会中小企业 ： 中小企业G7 ： 七国集团TFGBV ： 技术促进的基于性别的暴力B 公司 ： 福利公司PTSD ： 创伤后应激障碍欧盟 ： 欧洲联盟美国 ： 美国低收入和中等收入国家 ： 低收入和中等收入国家LGBTQ + ： 女同性恋、男同性恋、双性恋、变性人、酷儿和双性恋联合国大会 ： 联合国大会SDO ： 标准制定组织教科文组织 ： 联合国教育、科学及文化组织G20 ： 20 国集团HIC ： 高收入国家IEC ： 国际电工委员会RFI: 索取资料AgTech ： 农业技术美国国际开发署 ： 美国国际开发署E. O.: 行政命令LLM ： 大型语言模型ISO ： 国际标准化组织GBV ： 基于性别的暴力 人工智能技术的快速发展正在一个相互连接的景观中进行，在这个景观中，资金、数据、人才、信息和计算资源跨越国界流动。尽管具有全球相关性，人工智能研发（R&D）政策通常仍由国内优先事项驱动；资金孤岛和其他合作障碍可能导致孤立的网络，从而削弱国际科学合作潜在利益。全球研究生态系统应基于互惠、开放和透明的科学价值，包括对人工智能系统的研究。 全球人工智能研究议程（GAIRA）建议了人工智能研究与开发（R&D）的原则、优先事项和实践，以促进国际背景下的人工智能系统的安全、安全和可信发展。其目标是在研究个人、社区和社会与人工智能系统之间互动方面加强合作，促进创新，并支持人工智能带来的好处的公平获取。所提出的结论为形成一个全球性的研究愿景奠定了起点，在这一愿景中，研究社区不断评估人工智能研究的状态，审查当前针对所提出优先事项的出版物，并识别差距以指导未来的研究，重点关注全球需求。 在人工智能研究领域缺乏国际共识，反映出人工智能研究社区仍处于不断发展之中。鉴于这种缺乏共识的情况，本议程将由三个推荐的人工智能研究原则指导：1）包容性和公平性，2）负责任的研究行为，以及3）合作与伙伴关系。这些原则强调了构建对个人、社区和社会有益的人工智能系统的重要性，坚持最高的标准以保护自主权、尊严和隐私，并邀请受影响的人作为合作者参与其中，同时努力实现系统的可持续性和研究的可持续性。它们广泛与研究人员、资助者和多边论坛之前的工作相呼应，并反映了共同致力于创建一个优先考虑人类福祉和社会价值（包括尊重人权）的人工智能生态系统。当以尊重权利的方式设计、开发、部署和使用时，人工智能可以推动有利于社会和个人的技术进步。这些原则是在对美国国内和国际指导文件的主题分析中制定的——具体而言，包括总统备忘录14110、G7关于研究诚信和研究安全的共同价值观和原则、经济合作与发展组织（OECD）的人工智能原则，以及联合国大会关于“抓住安全、可靠和值得信赖的人工智能系统促进可持续发展的机会”的决议。 大致与以下主题一致 ： ■社会技术研究- 对于加深对技术与社会之间互动的理解以及指导增强人类福祉的AI系统设计和部署的研究需求迫在眉睫。理解AI系统作为社会和技术系统的必要性——在这种系统中，技术与人类行为、文化及机构相互作用并产生影响——在全球背景下显得尤为紧迫。在这种背景下，技术专家和研究人员可能在不熟悉的环境中开发或部署AI工具。监测和评估AI在实际环境中的发展和应用的影响对于识别AI应用的实际利益和风险、促进并保护所有人的基本人权和自由至关重要。 ■包容性研究基础设施- 对AI研究进展而言，关键要素之一是确保研究人员能够访问数据、计算能力以及研究平台，并且在适当的安全措施保护隐私和国际人权的前提下，这些资源能够支持AI技术与系统的创新。研究基础设施应当可供研究人员使用，以促进创新、高质量的研究以及研究成果的传播。多样化的视角将推动重要的发现、应用以及全球范围内推进AI技术时至关重要的敏感问题的解决。 ■支持 AI 应对全球挑战的研究- 优先将AI应用用于应对全球挑战可以促进环境保护、经济韧性和社会福祉。此外，协作努力可以使AI系统、设备和基础设施更加可持续，而开展应用研究可以推动一个更安全、更健康和更加繁荣的世界。 ■AI 基础研究 ， 包括 AI 安全、安保和可信性- 人工智能仍处于早期发展阶段，需要更多的技术进步以推动前沿技术的发展，并朝着安全、安全和可信赖的系统方向前进。为了支持这些发展并为国际人工智能治理讨论做出贡献，研究人员还必须解决与信息完整性、网络安全以及测量与评估等相关的问题。 ■人工智能对全球劳动力市场影响研究- 人工智能在自动化流程和提高劳动效率方面的潜力要求我们研究AI对劳动力市场的影响。本节概述了填补研究空白、理解颠覆性变化并提出适应不同全球和经济背景下的风险缓解措施的机会。研究人员应考虑劳动市场的变化、新类型工作的出现以及对财富分配和收入不平等的影响。 本文档的最后一节列出AI 研究的推荐实践部分基于从索取资料 (RFI)1由来自各个地区、行业和背景的受访者提供信息。它提供了关于研究资助者、研究生态系统枢纽和研究团队可能采取的实施实践的全球视角。本部分可以作为利益相关方的指南，帮助他们将行动与议程目标对齐。 ■ 研究资助者 ： О提升透明度О开放资金呼吁支持国际人工智能研究合作О促进研究基础设施的可访问性 ， 以适应不同的人口统计数据О提供连接机会О追求公私伙伴关系 ■ 研究生态系统中心 ： О激励重复性研究О围绕研究出版物培养广泛接受的实践О围绕 AI 研究指南进行协调和协作О支持私营部门优先考虑的超越主题的研究О提供指导 ， 以适应不断发展的监管环境 ■ 对于研究团队 ： О优先考虑多学科团队О与当地研究人员合作О利用社会技术方法和研