H200 GPU是H100的升级产品,集成141 GB HBM3e,速度快、容量大,更适合大语言模型训练。 ‼H200相较于H100: 1)内存提升约2倍,带宽增加2.4倍; 2)Llama 2(700亿参数LLM)推理速度提升 【中泰电子】英伟达新品H200发布,关注供应链升级 ���事件:北京时间11月13日晚,英伟达发布新一代AI处理器H200 GPU。 H200 GPU是H100的升级产品,集成141 GB HBM3e,速度快、容量大,更适合大语言模型训练。 ‼H200相较于H100: 1)内存提升约2倍,带宽增加2.4倍;2)Llama 2(700亿参数LLM)推理速度提升近一倍;GPT-3(1750亿参数模型)训练,性能是A100的18倍,H100的1.6倍;3)降低50%总使用及能耗成本;4)与H100系统软硬件兼容,将于24Q2推出; 建议关注: 1)服务器:工业富联;2)HBM:香农芯创、雅克科技、华海诚科、深南电路、深科技;3)PCB:沪电股份、胜宏科技、奥士康、景旺电子;4)先进封装:通富微电、长电科技、兴森科技、华正新材、天承科技、长川科技、伟测科技。