您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [未知机构]:NVIDIAGB200超级芯片20240517 - 发现报告

NVIDIAGB200超级芯片20240517

2024-05-17 未知机构 绿毛水怪
报告封面

A:最新的亚洲半导体供应链动态显示,基于先进的 CoWoS(Chip-on-Wafer-on-Substrate,晶圆级封装)技术的产能估计,预计到 2024 年下半年,大约会有42 万颗 GB200 超级芯片投入到下游应用中。这批芯片用 途明确划分,一半用于构建先进的机架系统,另一半则用于强化 AI 服务器的性 能,具体表现为支持约 4000 台专为高性能计算设计的 NVL72 机架和大约 3 万 块高性能计算平台的 HGX 底板。值得注意的是,从芯片出厂到下游完成组装并 投入市场,我们预计存在大约一个季度的时间差。展望 2025 年,基于当前对 CoWoS 产能的分配和预测,GB200 芯片的年产量有望提升至 150-200 万颗,显示出该领域的强劲增长潜力。 Q:GB200 计算托盘的设计方案有哪些,以及 GB200 服务器机架的配置和特点?A:GB200计算托盘设计有两种主要类型,分别配备一颗或两颗GB200超级芯片,这为不同性能需求的系统提供了灵活性。在 GB200 服务器机架配置方面,每个 机架设计紧凑高效,可容纳 18 个高性能计算节点和 9 个 NVLink 交换系统,这 些设计旨在最大化数据传输速率和系统效率。 具体到产品型号,GB200 NVL36 配置在一个机架内集成了 36 颗 GPU 和 18个 配备单颗 GB200 计算节点,而 GB200 NVL72 配置则在一个机架中集成了72 颗 GPU,通过 18 个配备双 GB200 计算节点实现,或者在两个机架配置中,同 样集成 72 颗 GPU,但通过 36 个单 GB200 计算节点达成。每个机架中还包括 9 个 NVLink 交换系统,每个计算托盘配有两个 NVLink 交换芯片,确保了所有 36 或 72 颗 GPU 之间通过最新的 NVLink 技术实现高速、低延迟的互联,同时整个系统采用最高可达 1300 千瓦的液冷设计,以保障在高强度运算下系统的稳 定性和能效比,体现了对高性能计算领域前沿技术的深刻理解和应用。 Q:2024 年第四季度及 2025 年 GB200 DGX NVL72 服务器机架的出货预测是怎 样的? A:对于 GB200 DGX NVL72 服务器机架,我们目前的预测是在 2024 年第四季 度,它将在超大规模数据中心领域启动一个规模不小的试点项目,预计会有 400 台投入到运行中。步入 2025 年,尽管市场环境存在一定的不确定性,但根据当 前的规划假设,从上半年开始,我们将看到大约 2 万台 DGX NVL72 服务器机 架的出货量。此外,到了 2025 年中期,计划还将包括 1 万台 MGX NVL36 服 务器机架的出货。综合这些数据,2025 年 GB200 超级芯片的总出货量预计将 达到 90 万颗,这反映出市场对该高性能计算解决方案的强劲需求。 Q:GB200 超级芯片及其硬件供应链中,哪些企业被视为主要受益者? A:在 GB200 超级芯片及其相关硬件的供应链中,几家关键企业被视作主要受益 者。首先,SK 海力士作为 HBM(高带宽内存)的供应商,在提供高性能存储解 决方案方面扮演着至关重要的角色。除此之外,台积电作为 GB200 芯片的代工 厂,其先进的制造工艺对于芯片的高效生产至关重要。ASM Pacific 则凭借其在 封装技术上的专长,特别是热压焊工具,为GB200 芯片的封装提供支持。京元 电负责 GB200 芯片的测试,确保产品质量;ASpeed 则提供 GB200 主板上 BMC(基板管理控制器)芯片,对系统管理至关重要。 Q:在 AI 服务器硬件领域,哪些企业因 GB200 服务器系统的 ODM(原始设计制 造)而受益? 而 金桥作为领先的导轨供应商,在服务器内部结构的稳定性和可靠性方面发挥着关 键作用。 Q:在日本半导体生产设备领域,哪一家公司因 GPU 和 HBM 测试而预期显著受 益? A:在日本半导体生产设备领域,爱德万测(Advantest)因其在 GPU 和 HBM 测试市场中的高市场份额,被预期将成为 GB200 超级芯片生态系统中的显著受 益者。爱德万测的专业测试设备对于确保 GB200 超级芯片及其配套 HBM 内存 的性能与可靠性至关重要,因此,随着 GB200 系列产品的市场推广,爱德万测 有望迎来更多的业务机会和增长潜力。 Q:请概述一下主要服务器 ODM 和零部件厂商针对 GB20 的最新布局动态。A:近期,主要的服务器原始设计制造商(ODM)和零部件供应商正积极布局,以应对 GB20 世代的技术挑战。这包括了对高速互连技术、高效能效硬件和优化 的散热解决方案的深度整合。一些 ODM 企业已经推出了针对数据中心应用优化 的服务器平台,旨在支持 GB 级别的数据传输速率,同时保持低延迟和高能效。零部件层面,内存模组制造商正开发新一代 DDR5 和 LPDDR5 内存 高的带宽和数据处理速度,而电源管理模块(PMIC)厂商也在研发更精细的能 效控制方案,以减少能源损耗。总体上,整个供应链正紧密合作,推动技术革新,确保产品能够满足 GB20 时代数据中心的高性能要求。 Q:NVIDIA Blackwell 技术如何推动半导体测试设备市场的发展? A:NVIDIA 以其 Blackwell 项目在计算加速技术上的不懈努力,预示着对整个半导体测试设备市场的重大利好。首先,它将刺激对高性能测试机的需求,特别是 针对 GPU 和 其他高速计算密集型芯片的测试设备。这不仅限于测试机本身,还 包括存储器测试机、探针卡和探针台,这些设备的性能需与 NVIDIA 的计算速度 同步提升,以确保芯片的可靠性和质量。随着封装技术的演进和设备复杂性的增 加,系统级测试的重要性也愈发凸显,这为 Advantest和 Teradyne 等在各自 领域(GPU 测试机和系统级测试机)占据领导地位的厂商带来了更多市场机会。Q:玻璃基板在 GPU 等高频芯片应用的前景如何?有哪些优势和挑战? A:玻璃基板作为新兴的封装材料,在 GPU 等高性能芯片中应用展现出独特优势 和潜力。它能显著降低功耗,提供极其平坦的表面,适合制造大尺寸、薄型、窄 间距的高性能器件,同时具有良好的耐湿热性和高温稳定性。这些特性使得玻璃 基板在高频芯片封装中极具吸引力,有助于提升整体性能和可靠性。然而,当前 面临的主要挑战包括玻璃基板的制造工艺尚不成熟,加工成本偏高,以及其相对 较低的机械强度和抗冲击性。随着制造工艺的进步,玻璃基板的应用瓶颈有望缓 解,成本效益逐渐提升。玻璃基板与光电器件的兼容性极佳,尤其是集成光波导 技术的发展,使得玻璃桥接合(即含有光波导的玻璃基板)比传统硅或有机基板 上的光纤互联更加坚固、易于制造,为下一代光互连技术开辟了新途径。尽管初 期成本投资较高,但长远看,玻璃基板在 GPU、CPU、FPGA 等高端芯片封装 中的应用前景广阔,有望推动半导体技术进入新的性能和效率水平。 Q:面板级封装(PLP)技术如何影响半导体生产设备制造商,特别是与平板显示 器(FPD)生产的关系是怎样的? A:面板级封装(PLP)技术借鉴了平板显示器(FPD)制造中的玻璃微加工技术 和基础设施,特别是玻璃芯基板的处理工艺。如果芯片行业转向使用玻璃作为基 板材料,这将显著增加对那些能够从 FPD 生产线改造而来的 PLP 系统的市场需 求。这类系统不仅能够满足芯片封装对精细加工的要求,还能利用现有 FPD 产 线的规模化生产能力,从而降低生产成本,提高效率。 Q:玻璃基板制造系统中,哪些半导体设备可以被重新利用?这对半导体生产设备 制造商意味着什么? A:在玻璃基板制造系统中,许多现有的半导体生产设备可以发挥重要作用,例如 薄膜沉积设备、金属薄膜沉积设备、光刻与显影设备、钻孔设备,以及化学机械 抛光(CMP)设备等。这意味着半导体设备制造商可以利用他们在这些领域的 既有技术积累,无需从零开始研发全新设备,而是进行适当的调整和优化以适应 玻璃基板的特殊需求。这不仅能够加速玻璃基板制造技术的商业化进程,同时也为半导体设备制造商开辟了新的业务增长点,增加了收入来源。 Q:NVIDIA 等厂商追求计算速度极限与先进封装、新型基板材料的应用如何影响 半导体生产设备行业? A:NVIDIA 等公司持续突破计算速度极限,推动了对更高效、更小型化的封装技 术的需求,以及对新型基板材料如玻璃的探索。这直接促进了半导体生产设备行 业的发展,尤其是测试机、面板级封装(PLP)设备、玻璃基板制造设备等细分 市场。这些领域内的创新和改进成为了行业增长的关键驱动力,为设备制造商带 来了前所未有的机遇。 Q:日本厂商在哪些方面有望从这些变化中获益,具体体现在哪些领域? A:鉴于日本在半导体设备制造领域的深厚技术积累,尤其是精密加工和自动化方 面,日本厂商在测试机、PLP 设备、玻璃基板制造设备等领域有着显著的优势。随着这些领域的快速发展,日本企业有望凭借其技术领先地位和创新能力,获得 丰厚的市场回报。日本厂商的精密制造技术和对高质量标准的坚持,使它们在新 兴的高性能计算和先进封装技术市场中占据有利地位。 Q:服务器 ODM 和元件厂商如何应对这些变化,他们如何布局以抓住新一代 AI 芯片(如GB200)的机遇? A:服务器原始设计制造商(ODM)和元件供应商正积极调整策略,以适应新一 代 AI 芯片(如 GB200)所带来的市场需求。他们通过加大研发投入,提前布局 与这些高性能芯片相匹配的服务器架构设计,优化散热解决方案,并与半导体设 备制造商紧密合作,确保供应链的高效协同。同时,这些厂商也在强化核心零部 件的定制化能力,比如高效电源模块、高速互连技术等,以满足 AI 计算对高速 度、低延迟的严苛要求。通过这些布局,ODM 和元件厂商旨在抢占市场先机,为客户提供一体化、高性能的服务器解决方案。