2024智能算力产业发展白皮书

2024年7月 发布单位 国家信息中心大数据发展部、上海人工智能研究院、东方证券-上海人工智能研究院联合实验室 特别鸣谢广州数据集团、广电运通、粤港澳大湾区大数据研究院 编制组成员 专家指导组成员 于施洋国家信息中心大数据发展部主任宋海涛上海人工智能研究院院长陈刚东方证券首席研究总监 编制组成员 国家信息中心大数据发展部郭明军规划与应用处处长童楠楠规划与应用处副处长陈东规划与应用处高级工程师窦悦规划与应用处副研究员郭巧敏规划与应用处助理研究员赵正规划与应用处助理研究员马文博规划与应用处助理研究员马晓规划与应用处实习研究员张琳颖规划与应用处实习研究员 上海人工智能研究院 杨浩副院长孙丽数字经济研究中心主任苏合检算力算网中心副主任唐晟凌数字经济研究中心资深咨询师康起明数字经济研究中心资深咨询师徐艺珺数字经济研究中心资深咨询师仲惠颖数字经济研究中心资深咨询师 东方证券-上海人工智能研究院联合实验室 浦俊懿计算机行业首席分析师，东方证券-上海人工智能研究院联合实验室主任宋鑫宇计算机行业分析师陈超计算机行业前瞻科技首席分析师杜云飞计算机行业高级分析师覃俊宁计算机行业分析师 粤港澳大湾区大数据研究院 李琳常务副院长王天瑞工程咨询中心高级咨询师栾雪洋工程咨询中心高级咨询师 目录 、AI大模型时代到来，智能计算成为关键引擎04 1.1AI大模型取得突破，算力需求正从通用计算转向智能计算- 041.2智能算力需求将呈现指数级增长-- 111.3.1国家层面制定一系列政策，在全国范围推动智能算力发展121.3.2各地积极布局算力，智算中心建设热魔持续15 二、智算产业蓬勃发展，产业生态逐步形成~ 23 2.1智算中心建设迅速落地，多方主体积极参与- 232.2智算产业链正在形成·- 25 三、智算芯片是智算产业核心环节，也是全球科技巨头竞逐热点~ 27 - 27 3.1.1智算芯片是智算产业的核心环节-==- 273.1.2智算芯片成为中美科技博弃的焦点之一- 283.1.3国产智算芯片发展刻不容缓31 3.2.1英伟达目前在智算芯片领域独占整头- 333.2.2AMD在智算芯片领域不断发力-E -3.2.3微软自研芯片垂直整合Azure软硬件353.2.4特斯拉推出FSD芯片以最大化其自动驾驶技术潜力- 363.2.5谷款TPU持续送代性能升级-37 3.3国内：华为、海光信息等科技大厂积极布局，赛武纪、天数智芯等创业型企业纷纷兴起 3.3.1华为打造全栈自主AI基础软硬件--8E -3.3.2海光DCU依托开放生态加速推广~ 423.3.3赛武纪云边端协同发展~- 433.3.4天数智芯立足高性能通用GPU加速构建AI自主生态= 443.3.5潮博半导体芯片产品聚焦AI加速和视频处理-—- 45 3.4国内厂商在产品性能差距上正在缩小，但应用生态差距较大48 3.4.1国产智算芯片在性能方面与英伟达的通用GPU的差距正在缩小- 483.4.2国产智算芯片在应用生态方面还有很大发展空间- 49 四、智算产业发展趋势- 50 4.1多元异构算力融合与国产化是方向与趋势，~ 504.2智算建设与东数西算工程将有效融合-534.3通过算力调度，智算由单个节点向多点融合与协同演变- 554.4智算中心低碳化发展需要算力-电力协同- 60 五、优秀案例介绍· 63 5.1中科曙光-695.2广州数字科技集团~· 66 六、智算发展展望与政策建议· 69 6.1加强智算资源整合与布局优化696.2如快培育国产软硬件生态· 696.3促进产业链协同与创新升级696.4加强智算中心运营保障- 70 、AI大模型时代到来，智能计算成为关键引擎 1.1AI大模型取得突破，算力需求正从通用计算转向智能计算 智能计算是指面向人工智能应用（包括训练、推理、衍生应用场景等）的高性能计算。算力可分为：通用算力、智能算力和超级算力，分别对应三种计算模式：基础计算、智能计算和超级计算。不同应用场景下所需的计算精度不同，通常会采用不同种类的算力。目前，随着人工智能的快速发展以及国家层面的政策助推，智能算力规模和占比越来越大，算力需求逐步从通用计算转向智能计算。 D通用算力：基于CPU芯片的服务器所提供的算力，主要用于计算复杂度适中的云计算、边缘计算类场景，通常这些场景对实时性有一定要求，不适合完全将本地数据搬到异地计算，如移动计算和物联网等。 (2智能算力：基于GPU、FPGA、ASIC等AI芯片的加速计算平台提供的算力，主要用于人工智能的训练和推理计算，智算中心可以根据不同细分领域业务的算力需求匹配相应的计算能力。对于人工智能的模型训练及推理来说，处理文字、语音、图片或视频等需求较大，单精度、半精度、甚至整型的智能计算才能够满足应用需要。 ③超级算力：由超级计算机等高性能计算集群所提供的算力，主要用于尖端科学领域的计算，比如行星模拟、药物分子设计、基因分析、天体物理、气象研充、航空航天等需要复杂运算、高性能双精度算力的高精尖科研领域。同时，不同超级计算机的处理器、如速卡、框架等各不相同，商业化服务门槛高。 驱动力1：通用大模型。机器学习进入大模型时代，ChatGPT等通用大模型的训练送代极大拉动对智能算力的需求，模型成功部署后的推理阶段也将需要大量智能算力做支撑。从模型训练角度来说，据J，Sevilla等发布的文章&Compute Trends Across Three Eras of Machine Learning"2022 InternationalJointConferenceonNeuralNetworks(IJCNN)》，机器学习的训练计算大概可以分为三个时期：1)第一个时期为2012年之前，训练算力大致遵循摩尔定律，约每20个月翻一番；2)进入深度学习时代，算力翻倍的速度加速至5-6个月；3)2015-2016年左右开启了大模型时代，在这个时期，计算量增长变慢，翻倍时间约为10个月，但整体的训练计算量比深度学习时代的系统大2到3个数量级(OOM)。从2022年底，随着ChatGPT的发布，新一代AI浪潮来临，Bert、GPT4、文心一言等国内外通用大模型相继发布。这些大模型的训练需要千亿、甚至万亿级参数，以及上千GB的高质量数据，大模型的训练送代极大地拉动了智能算力的需求。另外，随着模型的成熟落地和推广，模型推理所需的智能算力也将逐渐增加，占比不断提高。 Computarin= is messolbeit mitn so ne nce:tainty. Estimates zre expected to te accurate wfthin factor of 2. cr a factor of 5 for reoentured in toral petaFLOP, thicm is 101 tomA1 literstuindisclesed modsts lies GPT-4 驱动力2：垂直行业大模型。垂直行业大模型的训练和基于通用大模型微调的行业应用都需要大量的智能算力做支撑。垂直行业的大模型训练需要大量的智能算力，另外，基于大模型的多场景应用也不断拓展。AI渗透千行百业，拉动智能算力规模高速增长。2022年，各行各业的AI应用渗透度都呈不断加深的态势，尤其是在金融、电信、制造以及医疗领域，为实现业务增长、保持强大竞争力、从而占据更大的市场份额，企业纷纷入局AI领域，通过新技术提升传统业务用户体验，人工智能应用增长迅速。据IDC和浪潮信息联合发布的（2022-2023中国人工智能计算力发展评估报告》，预计到2023年年底，中国将有50%的制造业供应链环节采用人工智能技术实现业务体验提升。在未来，随着A技术对传统行业赋能作用日益凸显，史大规模的智算需求出现成为必然。 驱动力3：海量数据。随若云计算、大数据、AI、物联网等技术应用发展，数据量呈指数级增长，智能算力需求也随之快速增长。据IDC最新发布GlobalDataSphere2023数据，2023年我国数据量规模预计为30.0ZB，到2027年数据量规模则将达到76.6ZB，2023-2027年CAGR达到26.4%。英特尔的研究也表明，AI模型的计算量每年将会增长10倍，这一趋势随着未来人工智能与传统产业的深度融合会进一步加快。自2012年开始，驱动AI的底层机器学习技术计算量呈指数级增长，远超摩尔定律带来的算力提升速度，对以CPU为主的通用算力提出严峻考验。目前CPU的物理工艺、核心数已接近极限，但数据量的增长却不会停止。面对激增的数据量，算力不足的问题日益突出。因此，在AI时代下，仅由CPU作为算力的提供者已经不能满足需求，向包括GPU、FPGA、ASIC等加速芯片异构而成的智能算力演化成为趋势，并最终将会成为数字经济时代下算力的主角。 当前，我国哲能算力占比已经超过通用算力，成为整体算力增长的主要驱动力。我国智能算力占总体算力的比重增长迅速，据中国信通院《中国算力发展指数白皮书(2023)》数据，2017-2022年我国算力内部结构中智能算力占比持续增加，2022年我国算力结构为通用算力：智能算力：超级算力=40%：59%：1%，智能算力占比已较大幅度超过通用算力占比，逐步成为总体算力增长的主要驱动力。据中国信通院预计，末来五年，全球算力规模增速超过50%。 1.2智能算力需求将呈现指数级增长 全球范国内算力结构向智能算力集中，预计未来智能算力需求激增。随着数字时代的来临，计算场景感加丰富，人工智能、物联网等技术飞速发展，数据高速增长，全球范国内智能算力需求激增。据中国信通院数据，2022年全球计算设备算力总规模达到906EFLOPS，同比增速47%，算力结构为通用算力：智能算力：超级算力=48%：50%：2%，智能算力占据一半份额。 我国智能算力规模高速增长，预计2026年智能算力规模突破ZFLOPS量级，增长速度远超通用基础算力。在大模型取得突破、应用场景广泛开拓与深入发展的背景下，智能算力需求将在未来几年迎采并喷。随着数据量高速增长、数据要素化进程推进、同时算力模型复杂度日益提升，智能算力作为释放数据价值的必要工具，其需求与规模快速增长。OpenAI分析显示，从2012年以来，最大规模的AI模型训练中所需要的计算量，每3.5个月便翻倍一次。相比于摩尔定律2年的倍增期，算力需求具有远高于芯片承载计算量的增长速度。 *我国智能算力规模增速预计将远超通用算力规模增速，智能算力呈现井喷式增长态势。据IDC数据，2020年中国智能算力规模为75.0EFLOPS，之后则保持快速增长态势，预计2023年智能算力规模将为414.4EFLOPS，到2027年预计则将达到1117.4EFLOPS,实现量级突破，进入ZFLOPS级别，2020-2027年预计CAGR达到47.1%。与之对比，通用算力规模增速则较慢，预计2023和2027年我国通用算力规模分别为59.3EFLOPS和117.3 EFLOPS,2020-2027年CAGR预计为16.8%。 从国家政策规划层面来看，2023年10月工信部等六部委发布（算力基础设施高质量发展行动计划》：目标规划到2025年，算力规模超过300EFLOPS，智能算力占比达到35%，达到105EFLOPS 1.3智算产业上升为国家战略竞争点，国家与地方政策加大智算产业支持力度 智算中心是“东数西算"的关键，在未来将会为社会提供主要智算资源。据国家信息中心，未来80%的场景都将基于人工智能，所占据的算力资源将主要由智算中心提供。A大模型已经成为国家、企业和科研院所积极发展、重点投入的大方向，而普惠大众的智能算力就是AI发展的基础资源，将要像水、电一样驱动科技发展、社会进步，智算中心则是实现这些科技创新的源泉。人工智能一直是中美两国科技竞争的重要领域，而中美在AI的三大技术数据、算法、算力中各有优势。中国的数据优势较为明显，但是算法和智能算力却明显落后于美国。发展智