PC与GPU市场趋势分析库存销售预期新技术架构与液冷发展20240624

3.Nvidia新架构 5.ODM找四家参考设计，T1公司：鸿海、广达、 ZT、纬创，后续做出来才会下放给其他公司，鸿海、广达目前进度比较快，初期订单这两家比较多。 6.GB200 NVLink新的铜线设计，后面用铜线直接接到NVSwitch晶片，用安费诺飞线技术 (Overpass)，传统Connector跟主晶片用PCB做连线，讯号速度越来越快会有功耗、衰减的问题， 现在主晶片旁边放个很靠近的Connector，用飞线的方式跳过来。未来会往晶片封装，很像CPO不过是铜线，有点Co-Packaged Copper的感觉。光纤是一条路，要比较常会走CPO，短的路径像是机柜内铜线看起来还是蛮好的方法。目前一个柜子有四个Cable cartridge，对应每个GPU各一条。现在已经到224G，所有的线、连接器Amphenol都有专利，所以主要都是它在做， Cable cartridge 4~5K”四组，大概2万美金都是Amphenol在做。 7.GB200供电改成集中是供电，原本H100设计一台大的Al Server放了6个3.3kW PSU。中央有一条1，4000安培Busbar集中供电，Power Supply原本规划3U高，5.5kW放12颗=66kW，一个 NVL72要放四台，最近新的设计改成1U，直接放6颗，缩成MGX架构19吋大小。原本放4台之后可能变成1U放8台，BMC用量会有差，每台PSU会放一个BMC，用量一个Rack原本4颗现在变8颗。Busbar主要供应商：Amphenol、台达电， 贸联也有可能有，但不贵8~900块。 8.功耗：Grace 300W、Blackwell 1，200W、 NVSwitch 1， 800W，NVL72大概130kW左右。 9.液冷只有几个主要的重要零件，四个：CDU、 CDM、Cold plate、UQD(快接头)。CDU很快就供过于求，每个人都会做，重要零件Pump不是很难做、热交换器也很多厂商可以供应，目前鸿佰、 3017、3324、2308、 6125、 8069都会做。CDM把中间管子焊在一起。Cold plate比较有进入障碍，会跟Bianca放在一起兜售，要卖给NV再做组装，主要设计参考厂商Cool master、3017。UQD会漏水都是在这边，厂商使用的时候很粗暴容易出问题，以外商为主，初期还不敢换到台湾厂商。10.HGX水冷设计(Supermicro)， 4U水冷8个GPU， 一个Rack8台，出给Tesla就是这台，第三季5B营收有70%都是这个。算是HGX升级版本做成水冷的版本，但算是比较过渡产品，新的有GB200，没有钱买可能会买下个产品，MGX4U，水冷做到最高16个GPU，底下放NVSwitch Board，原本平面的现在变直的插，以往GPU插PCle插槽现在走NVswitch，16个GPU用NVLink连接，Density比前面多一倍，有水冷机。