
2026年03月23日10:42 关键词 AI推理英伟达GPU数据中心推理驱动系统级协同LPU FFN PCB互联效率正交背板存储厂商扩产业绩异构化专用化AI芯片存储GTC大会日韩半导体 全文摘要 本次讨论会集中于科技硬件与光通信领域的最新动态,强调了仅限受邀嘉宾参与的信息仅供个人参考,不作投资建议。会议回顾了GTC大会英伟达在AI推理算力上的进展,讨论了AI硬件和半导体产业的转型,特别提及了LB计算平台及其对系统级设计的影响。同时,分析了存储和芯片行业趋势,指出AI基础设施正向系统级海量互联发展。 全球科技硬件调研汇报-20260322_导读 2026年03月23日10:42 关键词 AI推理英伟达GPU数据中心推理驱动系统级协同LPU FFN PCB互联效率正交背板存储厂商扩产业绩异构化专用化AI芯片存储GTC大会日韩半导体 全文摘要 本次讨论会集中于科技硬件与光通信领域的最新动态,强调了仅限受邀嘉宾参与的信息仅供个人参考,不作投资建议。会议回顾了GTC大会英伟达在AI推理算力上的进展,讨论了AI硬件和半导体产业的转型,特别提及了LB计算平台及其对系统级设计的影响。同时,分析了存储和芯片行业趋势,指出AI基础设施正向系统级海量互联发展。 光通信方面,讨论涵盖了可插拔光模块、光电共封装技术,以及超高速光通信芯片的前景,强调了NPO和CPU在数据中心应用的潜力,特别是在scale up场景下。此外,对未来技术演进和市场需求的预测展现出对光通信行业的乐观态度。整体而言,对话聚焦于技术创新与市场动态,反映了科技硬件与光通信领域的活跃发展。 章节速览 00:00中金电子掘金会议:全球科技硬件调研汇报 会议聚焦北美与全球科技硬件调研,包括GTCOFC大会及日韩半导体存储公司情况。强调AI与光纤光通信市场的共振,日韩半导体产业链因存储厂商扩产而业绩预期强劲。分享GTC大会见闻及AI芯片观点,讨论科技硬件市场动态。 02:07 GTC2026英伟达引领AI推理算力拐点 GTC2026大会上,英伟达指出AI推理进入算力拐点,行业正从训练主导转向推理驱动。公司规划从单一芯片升级至系统级解决方案,以应对专业化、易解耦化和异构化需求。未来三年,推理算力预计增长万倍,数据中心收入机会将从2025年的5000亿美元跃升至2027年的1万亿美元以上。硬件厂商正以GPU中心主义向平台级系统协同战略转型,以适应市场需求变化。 04:30英伟达发布全新计算平台,LPU助力AI行业拐点 英伟达在GTC2026大会上发布了全新的计算平台,包括Rubin GPU、自研CPU及Proof 4 DPU等组件,旨在构建AI工厂的上下文内存池。LPU作为专为解码阶段FFN执行优化的产品,显著提升了系统效率。然而,LPU与Ruby系统间的通信仍采用过渡方案,未来需进一步优化。此次发布预示着AI芯片将走向高度专用化和异构化,引领行业向更高效能推理发展。 11:21 AI基础设施升级带动PCB行业新周期 对话围绕AI基础设施的系统级海量互联新范式,阐述了高端PCB在AI算力竞争中的核心作用。通过分析无线网架构、LPU集群及正交背板技术,展现了PCB价值的显著提升。强调了互联效率对AI算力成本的关键影响,预测PCB行业将迎来量价齐升的新周期,建议持续关注AI硬件行业的积极变化。 从下游视角分析,AI领域需求增速快,挤兑VI供给,尤其在存储芯片环节,形成供需失衡。与2020-2023年消费电子驱动的全量型需求暴涨不同,2025-2026年周期更侧重于AI和推理应用,核心在于先进制程与封装产能瓶颈。资本支出更精准,聚焦AI高附加值产品与特定核心设备,供应链形态呈现区域化安全优先趋势。 21:01存储行业物理扩产瓶颈与中期景气度分析 当前存储行业面临无尘室建设周期压缩及空间不足导致的物理扩产瓶颈,制约了半导体设备市场增速。预计2026年半导体设备市场实际出货增长15%,扩产逻辑侧重代际迁移而非单纯新增产能,导致短期内供应受限。价格趋势显示一季度涨幅超过60%,长协约束力逐渐增强。中期景气度明确,优先级排序下,高利润产品如DM或HBM产能优先分配,存储芯片行业处于紧平衡状态。 25:08半导体设备迭代与市场增长趋势分析 对话探讨了半导体行业设备迭代的加速,包括前道设备如NAND、DRAM及逻辑芯片的代际迁移,以及后道先进封装技术如HBM堆叠层数增加带来的设备升级需求。预计2027年DRAM纯设备增速将超60%,整体增速在20%以上。同时,讨论了混合键合技术成本提升及应用时间,以及存储架构创新对低延迟和高并发的需求,指出未来1-2年内产能紧张状态将持续。 31:24 OFC2026光通信趋势:可插拔与光电共封装的共存与创新 OFC2026大会汇聚全球光通信行业精英,展示前沿技术,聚焦可插拔与光电共封装长期共存趋势。中国企业展现产业引领地位,日美厂商创新方案引关注。NPO与CPU方案并行发展,展会呈现百花齐放的解决方案,预示光通信行业未来多元化演进。 36:34 Scale Up CPU市场前景与光器件增量空间 对话讨论了CPU在scale up场景中的应用前景,指出随着技术进步,CPU有望在27年下半年至28年内实现放量,特别是在英伟达的ruby ultra到飞的代际更迭后。英伟达计划在下一代平台中采用光筒混合连接方式,直接搭载NV link8CPO交换芯片,预示着光入柜内的产业趋势。预计到2030年,scale up和scale out场景中的CPU市场规模将达到100亿美元,而光器件厂商有望因此获得丰厚的潜在增量空间。 39:38 SPO模块与Scale Across网络:AI数据中心的高密度液冷与多区域互联创新 本次讨论聚焦于SPO模块在AI数据中心的高密度液冷形态,及其在Scale Across网络中实现多区域AI超级工厂的互联需求。SPO模块通过集成冷板设计,实现400瓦以上的散热能力,有效提升数据传输效率与稳定性。Scale Across网络则通过构建统一算力网络,解决大规模AI模型训练的带宽需求,推动空芯光纤和相干光技术的应用,为未来AI数据中心的高效互联奠定基础。 47:25 OCS技术进展与市场前景分析 本次OFC大会展示了中国厂商在OCS领域的最新解决方案,如Romanum、Coherent等,强调了OCS在AI集群扩展中的作用,预测2029年市场规模将超25亿美金,Coherent上调至40亿美金。OCS技术已形成scale up应用场景共识,预计2027年业务收入将显著增长。 50:07薄膜尼酸锂集成技术引领400G光通信产业趋势 对话聚焦于薄膜尼酸锂集成技术在400G光通信领域的应用前景,强调其在高带宽、低功耗方面的优势。展会期间,多家厂商展示了基于该技术的创新产品,如hyper light的1.6TDRT光模块。尽管存在纯硅光方案的竞争,但主流观点认为薄膜尼酸锂集成将是400G时代的关键趋势。产业链涵盖材料、设备到终端设备,建议投资者关注相关企业的发展机会。全球市场对产业发展信心增强,建议投资者关注中长期投资机会,尤其在宏观环境波动时的逢低配置机会。 发言总结 发言人2 主持并介绍了第150期中金电子掘金会议,强调本次会议重点讨论北美和全球科技硬件的最新调研情况。过去两周,中金科技硬件组集中调研了美国GTCOFC大会以及日韩半导体和存储公司的状况,指出国内外AI和光纤光通信市场存在明显共振,日韩半导体产业链受益于存储厂商的扩张,业绩预期强劲。他深入分析了AI驱动的结构性牛市、技术重心及产能瓶颈的差异,以及资本开支和供应链形态的变化。特别强调了存储行业面临的物理扩产瓶颈,指出先进制程和封装产能的紧缺,以及对设备市场增速的影响。同时,讨论了材料、设备及先进封装技术的快速迭代,以及存储架构和产品创新对市场的影响。他认为当前半导体周期具有独特性,数据中心对先进制程产能的需求显著,预见到未来1至2年内产能紧张状态将持续,供应商拥有强大的定价权。 发言人3 首先对俞康老师表示感谢,并自报家门为中宁科技的意见分析师陈霄生。他回顾了上周在美国加州举行的GTC2026大会,指出英伟达管理层在会上明确指出AI推理进入算力拐点,行业需求已从训练转向推理,促使AI基础设施规划从单一芯片转向系统级,并强调了对推理算力的优化。他预计未来三年英伟达及其数据中心收入将显著增长,对AI算力芯片行业及产业链产生深远影响。他详细讨论了英伟达推出的LB计算平台,包括GPU、CPU和DPU等核心组件,分析了LPU在提升推理计算效率及对PCB需求增长,尤其是高密度PCB在满足高速互联需求方面的关键作用。最后,他强调了AI硬件持续迭代和创新的重要性,以降低成本和提升效率,并鼓励持续关注AI硬件的发展。 发言人4 她,中金科技硬件团队的分析师李诗雯,在电话会议中分享了基于过去两周北美市场调研的光通信行业趋势,重点关注了OFC大会上的最新发展。她指出,OFC大会汇聚了超过1.6万名参会人和七百余家参展企业,显示出光通信行业的繁荣。在AI大周期中,光通信技术的关键趋势包括可插拔和光电共封装技术的长期共存,以及SPO、OCS、薄膜尼酸锂等技术在提高带宽、降低功耗和提升效率方面的潜力。发言人强调了NPO、CPU、相干光技术和单波400G硅光芯片的重要性,并预测这些技术将在未来几年内推动光通信市场增长。此外,她建议投资者关注核心厂商在中长期的发展机会,并提醒注意市场波动性。 发言人1 他强调,此次会议仅为受邀嘉宾提供,所分享的信息与观点仅供参会者参考,不构成CICC或其关联方对任何证券、金融产品或投资的正式建议。嘉宾的演讲代表个人立场,CICC及其关联机构或个人不对信息、观点或判断的准确性与完整性做任何保证,并且不承担由此产生的任何后果。此外,未经书面许可,任何人不得以任何形式传播会议内容及相关信息,CICC保留对违反此规定的法律追索权。 问答回顾 发言人3问:在本次会议上,英伟达管理层指出了一个重要的行业变化是什么? 发言人3答:英伟达管理层指出,现在AI推理正在进入一个算力拐点,从训练主导转向推理驱动的范式转移。随着模型尺寸、上下文长度以及token生成的扩展,行业需求正在发生转变,企业开始将AI基础设施规划从单一芯片升级为整个系统,并特别增加了针对推理优化的协同解决方案。 发言人3问:英伟达未来三年对推理所需算力有何预期?英伟达在本届GTC大会上发布了哪些新产品或计算平台? 发言人3答:英伟达预计未来三年推理所需算力将达ChatGPT初始版本的1万倍,并且数据中心收入机会有望从2025到26年的5000亿美元增长到2025到27年的1万亿美元以上。英伟达发布了LB计算平台,由三大核心构建组成,包括新一代的Rubin和Ruin tra GPU、微软的CPU以及Perf的4DPU和Connect X-9超级网卡。其中,LB计算平台中的GPU聚焦于推理优化,而LPU则是破解模型推理中FFN执行效率瓶颈的专用产品。 发言人3问:LPU在解决大模型推理中的关键问题是什么? 发言人3答:LPU主要解决大模型推理中FFN(前馈网络)执行阶段的效率问题,因为在这个阶段承载了60%以上的参数量,逐token执行成为吞吐瓶颈。随着上下文长度增加,KV存储带宽瓶颈成为系统限制,而LPU通过集成高带宽和低延迟特性,有效提升了整体效率和性能。 发言人3问:目前LPU与桌面机会的协同方案存在哪些问题? 发言人3答:目前LPU机柜采用的过渡方案是通过BS网卡和x max以太网交换机与桌面机会协同,虽然单张prof4GPU可以提供100G的带宽,整体聚合带宽看起来足够(32个tree对应3.72TB每秒)。但面临更重任务时,以太网连接及DPU与LPU间的P3EJ四到JN六协议转换可能不是一个特别成熟的解决方案。 发言人3问:英伟达此次GTC2026发布的LPU意味着什么? 发言人3答:LPU的发布预示着行业拐点的到来,