AI智能总结
4 目录 目录 算力产业趋势和重点标的3 AI三要素:算力,超摩尔定律迭代 u3月,英伟达推出Blackwell芯片,6月初,英伟达公布整体芯片计划,预计将于2025年推出Blackwell Ultra,2026年推出名为“Rubin”的下一代AI平台,该平台将采用HBM4内存。 u海光深算二号已经发布并实现商用,深算二号实现了在大数据处理、人工智能、商业计算等领域的商业化应用,具有全精度浮点数据和各种常见整型数据计算能力,性能相对于深算一号实现了翻倍的增长。深算三号研发进展顺利。 AI三要素:应用,垂直和通用选择 u大模型趋于分化,通用和垂直两条道路。美国模型聚焦通用,国内模型聚焦垂直行业。 u通用大模型:参数普遍达上千亿甚至万亿,需要高算力进行模型训练,适用性广,如谷歌“BERT”、OpenAI“GPT”等。 u垂直大模型:参数普遍几十到上百亿,所需算力小于通用模型,但对数据的专有性要求高,行业客户更易接受,能够看到明显受益。如华为“盘古”大模型。 AI三要素:能耗,催生能源供应趋紧 u2022年中国数据中心耗电量2700亿千瓦时,其中智能算力总规模已达到197EFLOPS,年耗电量约730亿度电:到2027年,全国数据中心的耗电量将达到1.1万亿千瓦时,占全社会用电量的比重将达到8.6%。 u2024年至2030年,我国GPU算力集群年度总耗电量将增长约10倍,年复合增长率为49.8%,新增的GPU算力集群功耗远低于我国新能源装机容量的增长。 目录 目录 算力产业链全景图 u算力核心产业包括以软硬件的方式对外提供计算与服务能力,硬件主要包括AI芯片、光模块、高速铜缆、服务器、交换机、智算中心、可视化运维、液冷等。 AI芯片 算力云 算力芯片:美国限制先进芯片出口中国 u2023年10月,美政府出台新的芯片出口管制规定,阻止美国芯片制造商规避政府限制向中国出售半导体,对性能满足以下条件的芯片实施出口管制: u(1)总计算能力TPP达到或超过4800的芯片;(2)TPP达到或超过1600且PD达到或超过5.92的芯片;(3)2400≤TPP<4800,且1.6≤PD<5.92的芯片;(4) 1600≤TPP,且3.2≤PD<5.92的芯片。 u受此影响,英伟达无法向我国出口高算力AI芯片。 算力芯片:国内设立安全可靠等级支持国内芯片 u据《华尔街日报》报道,中国推动替代外国技术的重点是将美国芯片制造商从中国电信系统中剔除。电信运营商在 2027年前逐步淘汰作为其网络核心的外国处理器,此举将打击美国芯片巨头英特尔和AMD。 u23年12月26日,中国信息安全测评中心公布了安全可靠测评结果公告一级获证企业名单,其中在获批的18款处理器全部来自中国企业,包括鲲鹏、飞腾、龙芯、海光等芯片,英特尔和AMD均不在列。 图表7 华尔街日报 资料来源:华尔街日报,中国信息安全测评中心,华金证券研究所 算力芯片:昇腾+鲲鹏,国产AI算力替代 u昇腾芯片—AI算力:320TFLOPS,最大功率310W,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI架构灵活伸缩,支持云边端全栈全场景应用。 u鲲鹏芯片—通用算力:基于ARM架构授权,由华为自主设计完成,采用开放生态模式,为合作伙伴提供主板等部件,鲲鹏产业生态稳步发展,硬件伙伴出货占比已达95%以上 •大规模的超级计算机集•1024颗昇腾910 AI处理器进行协同•ResNet-50 v1.5模型和ImageNet-1k数据集上的训练时间仅为59.8秒•相当于200台英伟达的H100显卡 版本:Ascend-910架构:DaVinci最大功耗:310W工艺:N7+半精度算力:320 TeraFLOPS整数精度算力:640 TeraOPS 光模块:高速率、低功耗、低成本趋势明显 u算力对互联需求倍增,带动光模块整体需求提升,随着光模块在数据中心互联中的成本占比不断攀升,高速率、低功耗、低成本成为行业主流趋势。 u800G/1.6T将成为行业主流。数据中心交换芯片吞吐量2023年达到51.2Tb/s,2025年之后达到102.4Tb/s,800Gb/s和1.6Tb/s更高速率将成为实现高带宽数据交换的重要选择。uCPO/LPO/LRO等新形态将是长期迭代方向。CPO/LPO/LRO差异点主要是封装模式的不同,低功耗方面,相比于可插拔光模块,LPO的功耗下降明显,与CPO的功耗接近。 光模块:海外800G批量应用,未来将配备1.6T光模块 u根据Lightcounting预测,光模块的全球市场规模在2022-2027年或将以CAGR11%保持增长,2027年有望突破200亿美元,增长驱动力主要来自800G、1.6T、3.2T光模块需求,太网光模块销售的预测,将从2023年的12亿美元增至2024年的30亿美元和2025年的50亿美元。 u根据英伟达GTC大会资料,HGX H100集群需要400G IB网络,GB200 NVL72液冷集群需求800G IB网络,1.6T光模块需求有望放量。Marvell公司市场业务将从23年的34亿美金增长到28年的111亿美金,CAGR为27%,包括数据中心内部互联光互联,CAGR为25%;数据中心内部有源电缆DSP,CAGR为59% 光模块:中国之光供应全球高端光模块 uLightCounting公布了最新版2023年全球光模块TOP10榜单,到2018年,大部分日本和美国厂商退出了这一市场,具体来看,2023年旭创科技首次排名第一,Coherent(Finisar)排名第二,中国厂商的整体表现来看,共有7家厂商入围。2023年,旭创科技(排名第1)、华为(排名第3)、光迅科技(排名第5)、海信宽带(排名第6)、新易盛(排名第7)、华工正源(排名第8)、索尔思光电(排名第9)。 u800G/1.6T/LPO/CPO齐发力,光模块演进进入落地新阶段。从2024 OFC大会看来,1.6T光模块、硅光、LPO、CPO、相干通信、高速连接器等多项前沿创新技术在大会展现,国内企业中际旭创、新易盛、天孚通信、光迅科技、华工科技等在前沿高端领域均有布局,技术实力和量产能力全球领先。 现场演示1.6T-LPO-DR8 OSFP模块 展示业界首款4x200G LPO并宣布8x100G LPO进入量产阶段 展出适配800G/1.6T和CPO光引擎系列组件产品 铜互连:数据中心低成本短距离连接方案 uDAC高速线缆(Direct Attach Cable)也可译为直接电缆或直连铜缆,由一根铜缆和两端的连接器模块组成,广泛应用于短距离存储区域网络、数据中心和高性能计算机连接。DAC包括无源铜缆(PCC)、有源铜缆(AAC)和有源电缆(AEC)。 uAOC有源光缆(Active Optical Cable),将2只光模块与光缆封装在一起,实际上就是带光模块的光纤跳线。AOC一般长度比较短,最多也就几百米,最大的特点是光模块和光纤做成了一体,不可分离。 铜互连:英伟达新一代架构技术路线选择 u英伟达于2024年3月发布最新一代Blackwell架构GPU,在专为AI和高性能计算任务设计的数据中心服务器架NVIDIA GB200 NVL72大机柜中采用了大量的铜连接方案,主要用于连接机柜内的GPU和Switch,确保数据在不同处理单元间的迅速和准确传输。 u单台GB200NVL72架构中利用5000根NVLink铜缆进行交换机和GPU之间的连接,总长度接近2英里,铜连接技术的显著优势主要在于其高效散热性能、成本效益以及低能耗特点,单台服务器采用铜互连方案后的价值量也更突出。 铜互连:铜互联方案获共识,打开国产高速连接空间 u铜互联在短距通信领域有相对优势,英伟达已在新产品大量采用铜互联方案,是当下以及未来许多应用中最具成本效益的解决方案,根据Light Counting,全球无源直连电缆DAC和有源电缆AEC的市场规模将分别以25%和45%的年复合增长率增长。 u国内高速互联厂商有华丰科技、兆龙互联、神宇股份、金信诺等。华丰科技目前取得了与国际化连接器大厂的专利授权合作,已完成正交架构的112G高速背板产品开发及小批量生产,开发并持续优化224G产品,已达到样品试制合格的状态 服务器:中国AI算力市场高速发展,将成为第二增长极 u算力持续增长,AI服务器应用场景更加广泛。Trendforce预估,预估2024年全球服务器整机出货量约1,365.4万台,年增约2.05%。同时,市场仍聚焦部署AI服务器,AI服务器出货占比约12.1%。我们认为,主要受惠于北美云端数据中心业者订单带动,AI training芯片的出货量将会增长。 u中国AI算力市场高速发展,将成为第二增长极。根据IDC预测,到2027年中国加速服务器市场规模将达到164亿美元。其中非GPU服务器市场规模将超过13%。智慧城市、智能机器人、智能家居、工业领域将成为主要应用领域。 服务器:运营商智算集采落地,国产服务器厂商受益 uAI服务器较通用价值量提升明显。以AI服务器NF5688M6为例,该服务器采用2颗第三代Intel Xeon可扩展处理器+8颗英伟达A800 GPU的组合,每颗A800售价104000元,故该服务器芯片成本约96万元,相比于通用服务器NF5280M6,贵出近8倍。 u运营商集采落地,国产受益。中国移动公示的2024年至2025年新型智算中心集采项目采购包1的中标结果,昆仑技术、华鲲振宇、宝德计算机、长江计算等7家中标;此外,之前据C114简单测算,中国电信集采以G系列服务器为代表的国产化服务器规模占比超过47%,接近50%。 交换机:算力网络的底座 u交换机相当于一台特殊的计算机,由硬件和软件组成,负责构建网络进而实现所有设备的互联互通,是算力网络底座的主要组成部分。u数据中心交换机的功能:1、网络数据流量分发;2、处理大带宽数据。u数据中心交换机按照位置分类可分为接入层交换机、汇聚层交换机和核心层交换机。u数据中心交换机按照形态分类可分为盒式交换机(多位于接入层和汇聚层)和机框式交换机(多位于核心层)。 图表27 按位置分类交换机特点 ·端口数量较少·支持高速连接·数据传输低延迟 接入层 ·承载大量的流量·连接方式灵活·支持上行、下行链路连接 汇聚层 ·高性能和高可用性·大容量的交换能力·高速的转发能力 核心层 交换机:国产厂商快速崛起,800G高端交换机已突破 u2022年中国交换机行业市场规模为591亿元,同比增长17.96%,预计2023年市场规模达到685亿元。 u国产设备商快速崛起。2022年中国市场数据中心交换机前三厂商为华为、新华三和锐捷网络。从份额占比来看当前国内交换机市场双龙头格局特征显著,华为占比36%、新华三占比32% u我国主要厂商突破技术瓶颈,实现快速发展。新华三旗下S10500、S12500等系列交换机,多采用CLOS架构,提供Seerblade高性能AI计算模块,目前已形成了完整的数据中心产品体系。华为主推CloudEngine系列数据中心交换机,系列基于华为新一代的VRP8操作系统,2023Q1该系列以34.6%的份额排中国数据中心交换机市场第一,其中16800-X为全球首款800GE数据中心核心交换机。 uCloudEngine 16800-X支持288*800GE端口,3.5微秒跨板转发时延,支持三网融合,总运营成本可降低36%。 交换机:400G放量元年,国产交换机厂商受益 u据中商产业研究院分析师预测,2024年中国交换机市场规模将增至749亿元。我们认为,24年交换机市场放量的主要原因是数据中心类交换机增加所致,随着三大运营商、互联网智算中心建设加速,AI算力服务器将带动400G交换机的放量。 u国内能够批量供应高端交换机的厂商有紫光股份、菲菱科思、共进股份等。目前菲菱科思已具备100G/4