NV新卡初步解读

NV新卡初步解读：H20 1、算力水平：约等于50%的A100（百分比仅定性非定量）单卡运算能力0.15P左右（FP16） +900G的nvlink +6颗HBM3 2、能力水平：L40S、RTX4090、A100的中间体计算能力更弱 访存能力更强 集群能力一如既往优秀万卡水平 NV生态完善 3、适用场景：大模型的微调、百亿参数模型的训练、大规模推理大模 NV新卡初步解读：H20 1、算力水平：约等于50%的A100（百分比仅定性非定量）单卡运算能力0.15P左右（FP16） +900G的nvlink +6颗HBM3 2、能力水平：L40S、RTX4090、A100的中间体计算能力更弱 访存能力更强 集群能力一如既往优秀万卡水平 NV生态完善 3、适用场景：大模型的微调、百亿参数模型的训练、大规模推理大模型训练可能不适用？ 集群规模有上限，万P意味着十万颗级别GPU，组网难度可能极大。 4、成本：较贵，用了6颗HBM（H100用了6颗）对应96GBHBM3，HBM或可占到单卡成本的一半以上，所以售价和H100/800处于同一水平。 #以上信息均为估算，具体以后期到卡适配测试效果为准。 产业里前期已有新版NV卡传闻，而对NVH系列的需求仍未减弱，价格暂未体现。国产算力也同样势在必行，各家都在积极适配。 新卡的推出也可在较多场景缓解供需压力。无论如何，算力始终是AIGC发展的基础土壤。