您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:英伟达发布H200与GH200,HBM容量大幅提升,异构设计为大势所 - 发现报告
当前位置:首页/会议纪要/报告详情/

英伟达发布H200与GH200,HBM容量大幅提升,异构设计为大势所

2023-11-16-未知机构华***
英伟达发布H200与GH200,HBM容量大幅提升,异构设计为大势所

【德邦电子】英伟达发布H200与GH200,HBM容量大幅提升,异构设计为大势所趋事件:英伟达发布全新H200 GPU及更新后的GH200 产品线。相比H100,H200首次搭载HBM3e,运行大模型的综合性能提升60%-90%。而新一代的GH200依旧采用CPU+GPU架构,也将为下一代AI超级计算机提供动力。H200:HBM容量+76%,单位【德邦电子】英伟达发布H200与GH200,HBM容量大幅提升,异构设计为大势所趋事件:英伟达发布全新H200 GPU及更新后的GH200 产品线。相比H100,H200首次搭载HBM3e,运行大模型的综合性能提升60%-90%。而新一代的GH200依旧采用CPU+GPU架构,也将为下一代AI超级计算机提供动力。H200:HBM容量+76%,单位算力存储需求大幅提升H200 GPU内含6个HBM3e内存,总容量达141GB,总带宽为4.8 TB/s。相比H100(采用HBM3,容量80GB,带宽为3.35 TB/s),H200在容量上提升76%,在带宽上提升+43%。同时,H200 GPU在FP16/32/64等算力性能无显著提升。在大模型的运行上,H200相比H100将带来60%(GPT3 175B)到90%(Llama 2 70B)的提升。我们认为,H200性能提升主要由于存储端的架构优化,“存储墙”问题或为制约AI性能之短板。同时,H200单位算力存储需求大幅提升,看好后续AI产业对存储需求的持续拉动。GH200:CPU+GPU异构架构,先进封装为大势所趋更新后的GH200将原本的CPU+H100 GPU架构迭代为CPU+H200 GPU架构。依旧沿用此前的异构架构。每个GH200超级芯片还将624GB的内存封装其中。我们认为,异构设计作为未来高性能计算的趋势,将持续带动Chiplet等先进封装需求,看好先进封装产业发展机遇。相关标的:���HBM产业链:华海诚科(HBM环氧塑封料)、香农芯创(分销海力士产品)、深科技(DRAM封测)等;���先进封装封测厂:长电科技、通富微电、甬矽电子等;���先进封装设备:光力科技(划片机+研磨机)、芯源微(涂胶/显影/去胶/清洗)、芯碁微装(LDI有望应用先进封装)等;���先进封装材料:华正新材(ABF载板材料)、飞凯材料(湿电子+锡球+EMC)、兴森科技(IC载板国产替代)、天承科技等。风险提示:需求不及预期、技术迭代不及预期,贸易摩擦风险。