英伟达为AIGC设计专用算力,推理速度大幅提升。生成式AI(AIGC)的发展正在改变科技公司对于算力的需求,英伟达一次展示了四种针对AI任务的推理平台,1)NVIDIA L4提供比CPU高120倍的AI驱动视频性能,以及99%的能源效率,可以用于视频流、编码和解码以及生成AI视频等工作;2)算力更强的NVIDIA L40则专门用于2D/3D图像生成;3)针对算力需求巨大的ChatGPT,英伟达发布了NVIDIA H100 NVL,这是一种具有94GB内存和加速Transformer Engine的大语言模型(LLM)专用解决方案,配备了双GPU NVLINK的PCIE H100 GPU;4)NVIDIA Grace Hopper for Recommendation Models,除了为推荐任务优化之外,它还可以为图形神经网络和矢量数据库提供动力。