华为高管昇腾AI算力性能已超过英伟达A100在上周202

英伟达A100被认为是当今AI大模型的“摇篮”，是海内外90%以上的大模型首选的训【华为高管：昇腾AI算力性能已超过英伟达A100】 在上周，2024世界半导体大会暨南京国际半导体博览会上，华为旗下的江苏鲲鹏·昇腾生态创新中心COO王陶透露，基于Ascend算力芯片打造的昇腾算力集群，是国内目前唯一可支持训练千亿参数大模型的解决方案，其AI算力性能已经超过了市面主流使用的英伟达A100。 英伟达A100被认为是当今AI大模型的“摇篮”，是海内外90%以上的大模型首选的训练平台。与英伟达A100相比，华为昇腾AI芯片在训练大模型的效率层面已经达到英伟达的1.1倍，尤其在训练Llama、BloomGPT等主流开源大模型时，昇腾AI算力训练效率已经优于英伟达A 100，更是领先国内同行竞品10倍！ 王陶介绍称，在中国的国产大模型里面，有将近50%的客户选择昇腾技术路线。 昇腾现在已经是国产大模型的第一选择。 目前，国内头部的AI大模型当中，只有科大讯飞的星火大模型完全基于华为昇腾算力平台进行训练。 “经过测试，科大讯飞使用华为的万卡集群进行大模型训练可实现英伟达A100的0.8~1.2倍的效率。 与后者整体性能相比的确还存在一定差距，但在大模型训练这一块，已经与英伟达主流产品没有明显差距，特别是在万卡算力集群实践上，鲲鹏与科大讯飞联手完成了市场检验。 换而言之，华为昇腾是目前国内企业难以采购英伟达算力GPU的最佳平替。