金融数据中心人工智能算力建设指引

金融数据中心 人工智能算力建设指引 北京金融科技产业联盟 2023年8月 I 版权声明 本白皮书版权属于北京金融科技产业联盟，并受法律保护。转载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来源。违反上述声明者，将被追究相关法律责任。 II 编制委员会 编委会成员： 王长江 聂丽琴 张海燕 编写组成员： 赵春华 王妍娟 葛金磊 张浩然 吴仲阳 宋 虎 余学山白 阳 符海芳 李书建 黄志鹏 徐 旭 陆碧波 薛 亮谭 翔 马庆杰 李 洁 郭 亮 王 月 吴 刚 郭江波吴战立 雷昭燕 袁 智 王伟锋 李 培 彭 晋 李俊奎杨海悌 俞颖熙 程归鹏 张贯忠 李鸿鹏 宋 飞 玄凌博郑鹏飞 黎世勇 王云凤 编审： 黄本涛 周豫齐 王妍娟 张浩然 III 参编单位： 北京金融科技产业联盟秘书处 北京国家金融科技认证中心有限公司 中国工商银行股份有限公司 华为技术有限公司 浙江网商银行股份有限公司 中国信息通信研究院 腾讯云计算（北京）有限责任公司 新华三技术有限公司 蚂蚁科技集团股份有限公司 中科寒武纪科技股份有限公司 超聚变数字技术有限公司 北京百度网讯科技有限公司 IV 前 言 人工智能基础设施作为“新基建”的重要组成部分，是数字化走向智能化的核心力量，是金融机构智慧再造的关键载体。近年来，我国发布多项政策文件，进一步明确人工智能的发展规划，对人工智能算力建设指出方向。2021年底，中国人民银行发布《金融科技发展规划（2022—2025年）》，提出抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用，着力打造场景感知、人机协同、跨界融合的智慧金融新业态，实现金融服务全生命周期智能化。 人工智能算力数据中心是以数据中心为基础的人工智能基础设施。具体来说，人工智能数据中心是在超算中心和云计算数据中心大规模并行计算和数据处理的技术架构基础之上，通过大数据和深度学习技术保障其高效、安全运营，以人工智能专用芯片为计算算力底座，融合公共算力服务、数据开放共享、智能生态建设、产业创新聚集“四位一体”的综合平台，可提供算力、数据和算法等人工智能全栈能力，是当前人工智能快速发展和应用所依托的新型算力基础设施。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容，其中算力包括AI芯片、AI平台、智能计算中心等产品，提供高性能、低成本、绿色的计算能力是算力建设的关键目标。 本报告阐述了国内外人工智能算力建设情况，梳理了当前金 V 融数据中心人工智能算力建设面临的挑战，从整体上提出人工智能算力数据中心的架构，围绕基建、硬件及软件基础设施给出了人工智能算力建设指引，并进一步分析了传统与新型算力、数据中心算力与边缘算力、算力与网络等关键技术的协同建设问题，探索了人工智能算力数据中心绿色低碳运维模式，最后通过成功案例展望未来，以期为金融机构数据中心建设人工智能算力基础设施提供指引与参考。 关键词：人工智能、AI算力、人工智能算力数据中心、AI使能软件、AI开发框架 VI 目 录 第一章 发展背景和研究目标 .................................... 1 一、发展背景 ................................................. 1 （一）国家政策及“十四五”规划要求 .......................... 1 （二）金融科技发展的基础支撑 ................................ 4 （三）国内外当前AI算力建设情况 ............................. 4 二、研究目标 ................................................. 9 第二章 面临的挑战和难点 ..................................... 10 一、整体看 .................................................. 10 （一）数据中心AI算力发展不均衡 ............................ 10 （二）数据中心AI计算能力不足 .............................. 10 （三）数据中心AI算力连接和协同能力不强 .................... 10 （四）数据中心AI算力调度不灵活 ............................ 11 二、分层看 .................................................. 11 （一）数据中心选址问题（L0层） ............................ 11 （二）能耗及供电问题（L1层） .............................. 12 （三）AI算力底座与周边设备及网络的问题（L2层） ............ 12 （四）支持不同业务场景的AI应用问题（L3层） ................ 13 第三章 建设指引 ............................................. 14 一、人工智能算力数据中心架构 ................................ 14 （一）总体架构 ............................................. 14 （二）分层布局 ............................................. 15 二、基建基础设施层（L0-L1) .................................. 20 三、硬件基础设施层（L2） .................................... 20 （一）AI芯片 .............................................. 20 （二）AI服务器 ............................................ 21 （三）AI计算子系统 ........................................ 22 四、软件基础设施层（L3） .................................... 22 VII （一）芯片使能软件 ......................................... 22 （二）AI开发框架 .......................................... 23 （三）使能软件 ............................................. 23 第四章 建设协同 ............................................. 30 一、整体原则 ................................................ 30 二、传统算力与新型算力协同 .................................. 30 （一）算力产品特征 ......................................... 30 （二）算力协同建设 ......................................... 32 三、数据中心算力与边缘算力协同 .............................. 37 四、算力与网络协同 .......................................... 39 （一）广域算力网络架构 ..................................... 40 （二）广域算力网络关键技术 ................................. 43 （三）数据中心算力网络关键技术 ............................. 44 （四）算力网络协同关键技术 ................................. 46 （五）算力网络数字化能力 ................................... 47 第五章 运维和节能管理 ....................................... 49 一、运维管理 ................................................ 49 （一）人员组织 ............................................. 49 （二）日常运行维护 ......................................... 50 二、节能管理 ................................................ 50 第六章 成功案例和未来展望 ................................... 53 一、成功案例 ................................................ 53 （一）工商银行基于高性能网络的中高算力集群探索 ............. 53 （二）蚂蚁集团AI算力端云协同发展实践 ...................... 54 （三）网商银行基于卫星遥感的AI算力服务农村金融实践 ........ 56 二、未来展望 ................................................ 57 （一）AI算力的建设需求快速提升 ............................ 57 （二）AI算力的金融价值不断凸显 ............................ 58 参考文献 .................................................... 60 1 第一章 发展背景和研究目标 一、发展背景 （一）国家政策及“十四五”规划要求 人工智能基础设施是“新基建”的重要组成部分，是数字化走向智能化的核心力量，是金融机构智慧再造的关键载体。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容，其中算力包括AI芯片、AI平台、智能计算中心等产品，提供高性能、低成本、绿色的计算能力是算力建设的关键目标。 近年来，我国发布多项政策文件，进一步明确人工智能的发展规划，对人工智能算力建设指出方向。人工智能已上升为国家战略，人工智能的发展迎来重大机遇。表1汇总了近年来国家和相关部委发布的人工智能及算力相关政策。 表1 人工智能及算力相关政策 时间 内容 2017年3月 国务院总理李克强2017年政府工作报告，指出要加快培育壮大包括人工智能在内的新兴产业，“人工智能”首次被写入了国家政府工作报告。 2017年7月 国务院出台《新一代人工智能发展规划》，提出三步走的战略目标。 2017年12月 工业和信息化部印发《促进新一代人工智能产业发展三年行动计划（2018—2020年）》，明确了到2020年人工智能在推动战略性新兴产业总体突破、推进供给侧结构性改革、振兴实体经济、建设制造强国和网络强国方面的重大作用和具体目标。 2 时间 内容 2018年3月 国务院总理李克强在十三届全国人大一次会议作政府工作报告时表示，要加强新一代人工智能研发应用，在医疗、养老、教育、文化、体育等多领域推进“互联网+ ”。 2018年5月 习近平总书记在两院院士大