电子行业周报：英伟达GTC2024召开，关注AI产业链增变量

在GTC 2024大会上，NVIDIA展示了其在人工智能和高性能计算领域的最新进展。以下是关键点总结：

1. AI硬件创新：

   • 黑威尔GPU（Blackwell GPU）：NVIDIA推出了新一代GPU，采用了黑威尔架构，具有强大的AI处理能力。
   • GPU性能提升：GPU实现了高达2080 TFLOPS的计算性能，并支持4纳秒的die大小，显示了其在速度和能效上的进步。
   • 内存技术：GPU支持3e8 TB/s的高速HBM（高带宽内存），以及NVLink 1.8 TB/s的通信速度，显著提升了数据传输效率。

2. 系统级解决方案：

   • Grace CPU和GPU组合：NVIDIA与Intel合作开发的Grace系统，结合了Grace CPU和GPU，提供了200 PFLOPS的计算能力。
   • Superchip：Grace系统中的Superchip设计，集成GB级别的内存容量，用于高性能计算任务。
   • 节点/托盘配置：Grace系统支持多达200个节点或托盘的配置，适合大规模计算集群应用。

3. AI应用：

   • 大规模语言模型：NVIDIA展示了基于其GPU的LLM（大型语言模型）和Meta AI，用于构建和训练大规模语言模型。
   • 加速计算：通过使用NVIDIA的GPU和HBM技术，实现AI和HPC任务的加速，如ExaFLOPS级别的计算能力。

4. 基础设施与网络：

   • NVLink网络：用于连接GPU和CPU，支持高达7218个trays的NVLink网络，以及每秒1.8TB的数据传输速度。
   • NVLink开关：支持多GPU之间的通信，包括GB200 NVL72的版本，可以连接到多个GPU托盘。

5. 技术趋势：

   • HBM技术趋势：NVIDIA预计HBM（高带宽内存）技术将引领未来内存技术的发展，尤其是TSV（三维堆叠）技术，预计到2024年将实现每平方米25万个晶体管的密度，比当前水平提高60%，同时考虑了CoWoS（Chip-on-Wafer-on-Socket）和Money DJ CoWoS技术的演进。

6. 市场增长：

   • CAGR预测：NVIDIA预计其相关市场的复合年增长率（CAGR）将达到30.45%，显示出强劲的增长势头。

这些亮点反映了NVIDIA在推动AI和高性能计算领域技术创新方面的领导地位，以及其为满足日益增长的计算需求而做出的努力。