通过人工智能应对全球挑战
增压研究：利用人工智能应对全球挑战 总统办公厅 总统科技顾问委员会 2024年4月 关于总统科技顾问委员会 总统科技顾问委员会（PCAST）是由总统任命的联邦咨询委员会，旨在加强白宫内部和联邦机构向他提供的科技建议。PCAST由28位国家思想领袖组成，他们因在学术界，政府和私营部门的杰出服务和成就而被选中。PCAST就涉及科学，技术和创新政策的事项以及涉及科学和技术信息的事项向总统提供建议，这些事项需要为影响经济，工人赋权，教育，能源，环境，公共卫生，国家和国土安全，种族平等和其他主题的政策提供信息。 有关PCAST的更多信息，请参见www. whitehouse. gov / pcast。 总统执行办公室 总统科技顾问委员会 华盛顿特区20502 小约瑟夫· R ·拜登总统白宫华盛顿特区 尊敬的总统先生， 贵国总统科技顾问委员会(PCAST)对贵国政府为推进人工智能(AI)的安全和有效使用而采取的前瞻性方法感到兴奋。1根据您关于人工智能的安全，安全和可信开发和使用的具有里程碑意义的行政命令中的要求，我们很高兴在此报告AI应用于研究以应对重大社会和全球挑战的可能性。 AI将从根本上改变我们的科学方式。许多领域的研究人员已经在利用人工智能来为一系列长期存在的问题寻找新的解决方案。今天，科学家和工程师正在使用人工智能来设想、预测性设计和创造新的材料和治疗药物。在不久的将来，人工智能将通过分析现有数据的新方法以及开发和分析新型匿名和验证数据，在社会科学领域取得前所未有的进步。这些进步将使政府更好地了解政策如何影响美国人民，并改进这些政策以更好地满足社会需求和挑战。人工智能还将允许研究人员快速运行数百万个基于计算机的模拟实验，以提供有关最重要的现实实验的指导。在工业实验室中，丰富的模拟将能够识别设计中的危险或缺陷，以便科学家和工程师可以创建更安全，可扩展和高效的产品，美国工业和美国消费者可以依赖。总之，人工智能正在彻底改变研究过程，丰富科学模型，加速数据生成和分析，其影响将是深远的。 除了它的机遇之外，我们必须认识到人工智能可以带来新的问题和挑战，例如提取嵌入在扭曲的训练数据中的错误和偏见，计算过程所需的巨大且不断增加的能量。错误的科学可能在不知不觉中产生的可能性，以及邪恶的行为者可以轻松地将新的强大的AI技术用于恶意目的。专家人类监督，在AI算法中建立保护，以及负责任的使用文化，包括适当应用监管框架，如您的AI权利法案蓝图和国家标准与技术研究所的AI风险管理框架中所述，对于减轻AI的弱点和危险至关重要。幸运的是，再现性和验证是的核心原则。 科学方法。因此，科学界已经在AI可重复性，测试和评估方面进行了充满活力的开创性研究，以便研究人员以及每个人最终都能够以与我们使用计算器相同的信心使用AI工具。 最终，我们的愿景是，负责任地使用人工智能将使科学家和工程师能够利用这种变革性技术的机会，同时导航和减轻其弱点。 根据你的行政命令，并在你的政府的大胆工作的基础上，PCAST提供调查结果和行动建议，这将有助于美国充分利用人工智能的潜力，公平和负责任地推动研究，以应对世界挑战。 Sincerely, 总统科技顾问委员会 目录 给白宫的信2人工智能工作组9执行摘要10 1.Introduction 15科学的加速16人工智能和机器学习17创成式AI 18 2.人工智能支持研发的未来愿景20 AI方法将帮助研究人员优先考虑最有可能的解决方案21通过处理常规任务，AI将允许科学家专注于核心研究21Rote实验室流程将实现自动化和改进22以前棘手的模拟将成为可能22共享模型和数据将减少重复劳动，使研究民主化，并降低使用的总成本AI ....................................23多式联运基础模型将汇集多种形式的数据，并在分支机构之间创造新的协同作用科学..............24AI将帮助研究人员利用数据做更多的事情25将出现新的合作形式26负责任的AI实践将整合到研究工作流程中26一旦必要的AI基础设施到位，新的科学“月球”将成为可能....................................................................27 AI增强发现并解决全球和社会问题的关键机会挑战.....................................................................................................28 3.1.材料发现的相变283.2用于设计高级半导体的AI 313.3.了解和应对气候变化和极端天气333.4揭示宇宙的基本物理学353.5研究人类行为，组织和机构373.6推进生命科学的基本认识393.7AI在生命科学中的突破性应用41 4.调查结果和建议46 发现1：缺乏获得先进技术的途径阻碍了重要研究模型..............................................................................47建议1：扩大现有努力，广泛和公平地共享基本人工智能资源。.........................................................48发现2：尖端研究需要访问高质量数据50建议2：扩大对联邦数据集的安全访问，以满足经批准的关键研究需求，并提供适当的保护和保障措施............................................................................................................................................................................51发现3：AI为学术界，工业界和联邦所有部门的合作提供了独特的资源政府...............................52 建议3：支持AI的基础和应用研究，涉及学术界，工业界，国家和联邦实验室以及联邦机构之间的合作，如NAIRR任务制定的NAIRR愿景所述Force ...................................................................53发现4：如果没有适当的基准指标，验证程序和负责任的实践，AI系统可能会给出不可靠的输出，其质量难以评估，并且可能对科学领域及其应用程序.................................................................54建议4：在科学研究的所有阶段采用负责任，透明和值得信赖的AI使用原则过程.....................54发现5：最佳性能需要AI和人类专业知识55建议5：鼓励创新方法将AI辅助整合到科学中工作流.................................................................................56 5.结论57 附录A：术语表58附录B：咨询的外部专家61致谢62 总统科技顾问委员会 共同主席 弗朗西斯· H ·阿诺德莱纳斯·鲍林化学工程，生物工程和生物化学教授加州理工学院 Arati Prabhakar科学和技术政策办公室主任科技总裁助理白宫 玛丽亚· T ·祖伯研究副总裁和地球物理学E. A. Griswold教授麻省理工学院 成员 Dan E. Arvizu前财政大臣新墨西哥州立大学系统 威廉·达利首席科学家兼研究高级副总裁NVIDIA 丹尼斯·阿桑尼斯总裁特拉华大学 苏·德斯蒙德-赫尔曼前CEO比尔和梅林达·盖茨基金会 John Banovetz执行副总裁、首席技术官和环境责任3M公司 Inez Fung加州大学伯克利分校大气科学教授 安德里亚·戈德史密斯工程与应用科学学院院长兼电气与计算机工程Arthur LeGrand Doty教授普林斯顿大学 弗朗西丝·科隆美国进步国际气候中心高级主任 Lisa A. CooperBloomberg杰出的健康与医疗保健公平教授和健康公平中心主任约翰·霍普金斯大学 劳拉· H ·格林国家强磁场实验室首席科学家佛罗里达州立大学，佛罗里达大学，洛斯阿拉莫斯国家实验室佛罗里达州立大学物理学教授MarieKrafft John O. Dabiri百年航空与机械工程教授加州理工学院 Jennifer RichesonPhilip R. Allen心理学教授兼社会感知与沟通实验室主任耶鲁大学 Paula Hammond学院教授，副教务长，科赫综合癌症研究所成员麻省理工学院 埃里克·霍维茨微软首席科学官 Vicki Sato 哈佛商学院管理实践教授（退休） Joe Kiani董事长兼首席执行官Masimo Lisa Su总裁兼首席执行官高级微设备(AMD) 乔恩·莱文Philip H. Knight教授兼商学院研究生院院长斯坦福大学 凯瑟琳· D ·沙利文前宇航员国家航空航天局前管理员国家海洋和大气管理局 史蒂夫·帕卡拉Frederick D. Petrie生态与学系名誉教授普林斯顿大学进化生物学 陶特伦斯 教授&詹姆斯和卡罗尔柯林斯主席在文学与科学学院加州大学洛杉矶分校 Saul PerlmutterFranklin W.和Karen Weber Dabby物理学 教授，伯克利数据科学研究所所长加州大学伯克利分校高级科学家劳伦斯伯克利国家实验室 Phil VenablesGoogle Cloud首席信息安全官 凯瑟琳·沃特基生物复杂性研究所特聘教授弗吉尼亚大学食品科学与人类营养学教授爱荷华州立大学 威廉出版社 Leslie Surginer计算机科学和综合生物学教授德克萨斯大学奥斯汀分校 PCAST工作人员 劳拉·坎贝尔执行董事 Reba Bandyopadhyay副执行主任 梅丽莎·爱德华兹副执行主任助理 Bich - Thuy (Twee) Sim转化医学和健康创新助理主任 金伯利劳伦斯行政专家 Riya Dhar实习生 Maya Millette前实习生 人工智能工作组 工作组成员参与了本报告的编写。PCAST的全体成员审查并批准了该报告。 共同领导 陶特伦斯 劳拉· H ·格林 国家强磁场实验室首席科学家佛罗里达州立大学，佛罗里达大学，洛斯阿拉莫斯国家实验室佛罗里达州立大学物理学教授MarieKrafft 教授&詹姆斯和卡罗尔柯林斯主席在文学与科学学院加州大学洛杉矶分校 成员 Saul PerlmutterFranklin W.和Karen Weber Dabby物理学教授，伯克利数据科学研究所所长加州大学伯克利分校高级科学家劳伦斯伯克利国家实验室 John Banovetz执行副总裁、首席技术官和环境责任3M公司 威廉出版社 威廉·达利首席科学家兼研究高级副总裁NVIDIA Leslie Surginer计算机科学和综合生物学教授德克萨斯大学奥斯汀分校 埃里克·霍维茨微软首席科学官 Lisa Su总裁兼首席执行官高级微设备(AMD) 乔恩·莱文Philip H. Knight教授兼商学院研究生院院长斯坦福大学 Phil VenablesGoogle Cloud首席信息安全官 执行摘要 人工智能（AI）有可能彻底改变我们应对人类最紧迫挑战的能力，为研究人员提供加速科学发现和技术进步的工具。可以基于大量数据集和广泛计算来创建内容的生成AI将特别具有变革性。生成AI的示例包括大型语言模型、图像生成模型和生成科学模型。在2023年10月30日发布的关于人工智能的安全，安全和可信发展和使用的全面行政命令中，拜登总统责成P
