AI智能总结
2024年3月20日 英伟达(NVDA US) VR、机器人、自动驾驶– Blackwell之外业务不断发展 英伟达GTC于当地时间3月18日如期举行。此次活动万众期待,18000人的场地座无虚席。虽然外界对本次活动发布的内容早有预期,我们通过总结新硬件产品架构、软件服务模式和不同应用的前景,对生成式人工智能后续的技术发展和应用的铺开保持积极态度。 王大卫,PhD,CFADawei.wang@bocomgroup.com(852)37661867 童钰枫Carrie.Tong@bocomgroup.com(852)37661804 新产品架构Blackwell符合市场预期:虽然具体的产品效果仍需实践检验,但Blackwell新架构在性能上比之前的Hopper架构有很大升级。Blackwell采用台积电4nm制程,整合两个独立制造的裸晶。基于Blackwell的B200共有2080亿个晶体管,通过10TB/秒的芯片到芯片链路连接成单个统一的GPU。内存方面,Blackwell搭载192GB HBM3e,和之前AMD所发布的MI300的配置相同。采用Blackwell架构的GPU系列产品包括B100、B200和GB200。其中B100只适配于之前发布的HGX和DGX平台。GB200集成了两个B200 GPU与一个Grace CPU,提供20 PFLOPS的FP4算力。基于Blackwell的AI算力将以名为DGX GB200的服务器芯片形态提供给用户,结合36颗CPU和72颗GPU。这些芯片通过NVLink 5.0连接,NVLink5.0为1.8TB/s双向吞吐量,一个超级计算机或可配置8块DGX GB200,确保多达576个GPU之间的无缝高速通信。 交银国际研究 英伟达(NVDA US) - VR、机器人、自动驾驶– Blackwell之外业务不断发展(2024-03-20) 英伟达(NVDA US) -下游需求尚存分歧–英伟达报告客户反馈(2024-03-20) 软件新产品加高护城河:微服务是软件的关键词。英伟达首次发布推理服务NIM,公司的销售策略是让客户购买基于NVDA服务器(搭载之前几代GPU产品)的推理微服务,价格为每个GPU 4,500美元/年。我们认为,NIM产品很好的解决了在GPU供给不足情况下推理应用不断增长的需求。另外,新发布的CUDA-X微服务亦可以使得训练的微调更加便捷。 AR/VR/MR、人形机器人、自动驾驶等各类应用纷至沓来:英伟达深化与苹果的合作,NVDA Omniverse Cloud将可以连接到苹果Vision Pro。该服务允许企业将3D应用中的交互式通用场景描述串流传输到Apple Vision Pro头显中,为数字孪生等应用服务。公司公布了GR00T项目,旨在为人形机器人提供及一个基础模型。GR00T硬件基于英伟达Thor SoC芯片,搭载Blackwell架构下8比特800TFLOPS算力。我们认为,人形机器人或是生成式人工智能算法在人机互动模式方面一个新的平台。英伟达同时发布了下一代车载计算芯片系统DRIVE Thor,预计明年投产。公司宣布了与多家中国车企的合作扩展,包括比亚迪、小鹏以及广汽埃安旗下的Hyper品牌。 我们依然保持乐观,认为2025年下游需求依然强劲,相较2024年或仍有20%增长。股价在最近一段时间震荡整理,或在2025年有更明确需求的情况下出现进一步变化。 GTC大会要点 北京时间3月19日凌晨4点,一年一度的英伟达GTC开发者大会拉开帷幕。英伟达CEO发表了名为“见证AI的颠覆时刻”的主题演讲,也在会上推出了新一代架构Blackwell、新款旗舰人工智能芯片B200/GB200、推出企业软件订阅产品NIM以及针对Vision Pro的新服务、GR00T的人形机器人等见证AI颠覆时刻的产品。我们对其中最为关键的产品和技术进行了梳理。 推出新一代架构Blackwell Blackwell作为本次大会的重磅产品,相比Hooper,在性能上有较为明显的进步。 Blackwell采用台积电4nm制程,整合两个独立制造的裸晶(Die),基于Blackwell的B200共有2080亿个晶体管,具有两个十字线极限GPU芯片,通过10TB/秒的芯片到芯片链路连接成单个统一的GPU。 基于Blackwell的AI算力将以名为DGX GB200的完整服务器芯片形态提供给用户,结合36颗NVIDIA Grace CPU和72块Blackwell GPU。这些超级芯片或可通过NVLink 5.0连接成一台超级计算机,NVLink为每个GPU提供了突破性的1.8TB/s双向吞吐量,确保多达576个GPU之间的无缝高速通信。 性能上,每个Blackwell Die的浮点运算能力要比上一代Hopper Die高出25%,而且每个封装中有两个Blackwell芯片,总性能提高了2.5倍。 能效上,公司表示以前训练一个1.8万亿个参数的模型,需要8000个HopperGPU连续跑90天,消耗15兆瓦电力,相同的工作,只需要2000个Blackwell跑90天就能完成,耗电量仅为4兆瓦,能耗仅为之前的四分之一。 公司表示Blackwell拥有六项革命性的技术,可以支持多达10万亿参数的模型进行AI训练和实时LLM推理。这六项技术为:第二代Transformer引擎、全球最强大的芯片Blackwell架构GPU、第五代NVLink、RAS引擎、安全人工智能、解压缩引擎。 资料来源:英伟达,交银国际 资料来源:英伟达,交银国际 新款基于Blackwell架构的旗舰人工智能芯片B200和GB200 采用Blackwell架构的GPU系列产品包括B200和GB200。公司表示,尽管Hopper H100仍具备十分出色的运算能力,但市场对较大型图像处理器有强烈需求,因此决定现时推出GB200。 GB200集成了两个B200 Blackwell GPU与一个基于Arm的Grace CPU,通过2080亿个晶体管提供高达20 petaflops的FP4吞吐量。与用于推理的相同数量的H100 Tensor Core图形处理单元(GPU)相比,全新GB200 NVL机架级系统具有36个Grace Blackwell超级芯片,成本和能耗降低了大幅下降。算力方面,基于Blackwell架构的处理器GB200在FP4条件下20 PFLOPS训练算力(或者40PFLOPS推理算力),为H100 4 PFLOPS的5倍。同时,GB200的成本和能耗降至25分之一。大模型(LLM)的大规模推理始终是一个挑战,并非适合单个GPU的任务。在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,并且训练速度是H100的4倍。B200配备192GB HBM3e内存,足以提供高达8TB/s的带宽。 公司预计,包括亚马逊、谷歌、Meta Platforms、微软、OpenAI和特斯拉在内的主要客户将选择使用新芯片。英伟达此次还携手亚马逊、谷歌、微软以及Oracle等云服务巨头,将通过云服务出售GB200的接入权。据介绍,亚马逊云服务AWS将建立一个拥有2万颗GB200芯片的服务器集群。 资料来源:英伟达,交银国际 资料来源:英伟达,交银国际 推出企业软件订阅产品NIM以及针对Vision Pro的新服务 NIM(Nvidia Inference Microservice)可以更容易地使用旧的英伟达GPU进行推理,并允许公司继续使用他们已经拥有的数亿个英伟达GPU。推理服务NIM策略是让客户购买基于Nvidia服务器的推理微服务,每个GPU的成本为4,500美元/年。 同时,NVIDIA Omniverse Cloud将可以连接到苹果公司混合头显Vision Pro。该服务允许企业将3D应用中的交互式通用场景描述(OpenUSD)串流传输到Apple Vision Pro混合现实头显中。这一技术的应用,标志着工业设计和仿真领域向高效、互动和沉浸式体验迈出了重要一步。 推出名为GR00T的人形机器人项目 英伟达正在为最近涌现的人形机器人制造商提供一个名为GR00T的AI平台,其合作者包括1X Technologies、Agility Robotics、Apptronik、波士顿动力、FigureAI、Fourier Intelligence、Sanctuary AI、宇树科技和小鹏鹏行等公司。 由该平台提供支持的机器人,将被设计为通过观察人类行为来理解自然语言和模仿动作,使它们能够快速学习协调性、灵活性和其他技能,以导航、适应和与现实世界互动,并且绝不会导致机器人起义。 GR00T还将支持英伟达的新硬件,该芯片将包含基于NVIDIA Blackwell架构的下一代GPU,并配备变压器引擎,提供800万亿次浮点AI性能,可运行GR00T等多模态生成式AI模型。集成功能安全处理器、高性能CPU集群和100GB以太网带宽,大大简化了设计和集成工作。 资料来源:英伟达,交银国际 资料来源:英伟达,交银国际 深化与车企的合作,积极打造AI强化的自动驾驶技术 公司在本次大会上还表示正深化与比亚迪等中国车企的合作。公司指出,比亚迪将采纳其下一代车载芯片Drive Thor,以提升车辆自动驾驶及其他数字化功能。Drive Thor预计明年将正式进驻比亚迪汽车。 同时,公司宣布了与多家中国车企的合作扩展,包括比亚迪、小鹏以及广汽埃安旗下的Hyper品牌。此前,吉利旗下的极氪汽车和理想汽车已宣布将采用英伟达的Drive Thor技术。 此外,公司还宣布了英伟达与其他汽车和工业领域的新合作伙伴关系,如与美国软件公司Cerence合作,共同开发适用于车载计算的大型语言模型人工智能系统。 交银国际 香港中环德辅道中68号万宜大厦10楼总机: (852) 3766 1899传真: (852) 2107 4662 评级定义 分析员披露 本研究报告之作者﹐兹作以下声明﹕i)发表于本报告之观点准确地反映有关于他们个人对所提及的证券或其发行者之观点;及ii)他们之薪酬与发表于报告上之建议/观点幷无直接或间接关系;iii)对于提及的证券或其发行者﹐他们幷无接收到可影响他们的建议的内幕消息/非公开股价敏感消息。 本研究报告之作者进一步确认﹕i)他们及他们之相关有联系者【按香港证券及期货监察委员会之操守准则的相关定义】幷没有于发表研究报告之30个日历日前处置/买卖该等证券;ii)他们及他们之相关有联系者幷没有于任何上述研究报告覆盖之香港上市公司任职高级职员;iii)他们及他们之相关有联系者幷没有持有有关上述研究报告覆盖之证券之任何财务利益,除了一位覆盖分析师持有世茂房地产控股有限公司之股份,一位分析师持有英伟达之股份。 有关商务关系及财务权益之披露交银国际证券有限公司及/或其有关联公司在过去十二个月内与交通银行股份有限公司、国联证券股份有限公司、交银国际控股有限公司、四川能 投发展股份有限公司、光年控股有限公司、青岛控股国际有限公司、EddingGroupCompanyLimited、七牛智能科技有限公司、致富金融集团有限公司、湖州燃气股份有限公司、LeadingStar(Asia)HoldingsLimited、兴源动力控股有限公司、佳捷康创新集团有限公司、武汉有机控股有限公司、乐透互娱有限公司、洲际船务集团控股有限公司、巨星传奇集团有限公司、北京绿竹生物技术股份有限公司、中天建设(湖南)集团有限公司、安徽皖通高速公路股份有限公司、怡俊集团控股有限公司、宏信建设发展有限公司、上海小南国控股有限公司、SincereWatch(HongKong)Limited、四川科伦博泰生物医药股份有限公司、新传企划有限公司、乐舱物流股份有限公司、途虎养车股份有限公司、北京第四范式智慧技术股份有限公司、深圳市天图投资管理股份有限公司、迈越科技