英伟达在2024 GTC AI大会上推出了Blackwell新一代AI图形处理器,该芯片的成本和能耗明显提升,且针对模型训练和推理的便利性以及安全性提升显著。Blackwell平台可支撑万亿级参数模型构建,相比H100 Tensor Core GPU,GB200 NVL72在LLM 推理工作负载的性能上可提升30倍,并实现成本和能耗降低25倍。英伟达还推出了NIM推理微服务,通过行业标准API把大模型的开发和生产包装的复杂性进行抽象化处理,可以有效缩短AIGC模型的上市时间,并且对于其在云和GPU加速工作站上的部署更加简易。此外,英伟达还加深了与微软、Hugging Face等AI公司的合作,保证各类模型在英伟达芯片上运行的稳定性,免去了复杂的配置过程,从而将极大提升英伟达芯片的用户粘性。