您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:【中信前瞻】英伟达(NVDA)GTC会议分析师专场交流纪要–20230322 - 发现报告
当前位置:首页/会议纪要/报告详情/

【中信前瞻】英伟达(NVDA)GTC会议分析师专场交流纪要–20230322

2023-03-26未知机构羡***
【中信前瞻】英伟达(NVDA)GTC会议分析师专场交流纪要–20230322

a°纪要a°题ÿ:NVIDIA Corp GTC Financial Analyst Q&A;a°时间ÿ2023€3o22å01:00AM - 02:00AM CSTÞ方ÿ英伟达出人ÿColette M. Kress, NVIDIA Corporation - Executive VP & CFOJensen Huang, Co-Founder, CEO, President & DirectorSimona Jankowski, NVIDIA Corporation - VP of IRl迎联系ÿ中信前瞻 陈俊ß/高飞翔 0黄ā勋GTC大a总结111lka°谈论到了O个ú态,要î及ÿ持续发展1生r式AI1数_化2 21lka°谈论到了四个要点,要î及生r式AI1硬þP^ú态1àŸß1ß服á ú态1ÿÿ持续发展ÿ摩尔定律的发展þ经终结,英伟达在过去若~€的时间Ý,一直落地àŸ«算的发展2截ó目前,英伟达在àŸ«算领域做到了全p式_局,Ð架构1到系统1到软þ1到àŸß再到对à的à用程序2英伟达àŸ«算,ÿñ做到横U扩展1UP扩展1U外扩展,产品更xp灵活性2英伟达的àŸ«算Ā_被用到多个领域ÿ粒子物理学1流体ú力学,直到机器人学1人工智能等等,«算机图形学1图像处理,视频处理Ā今y,所pà些类型的领域都í耗了大量的 CPU 内€和大量的电力2s们p机aàŸ所pà些,降Pß耗,降Pr本2NVIDIA 的àŸ«算Ā是Ðß到边缘的2à是每个ß中€一ÿ用的架构2世界PñN所p的«算机制 商都ÿñ在本地使用它2它ÿ用于ë理系统1边缘系统1机器人自ú驾驶汽车等等2同时英伟达的àŸĀ是完全开放的2à意味着您ñNÿñÐ世界P任何地方的任何«算Ā2ú态2ÿ生r式AIp望引发人工智能的转折点2伴Ÿ着生r式AI的发展,s们经历了Ð世界感知到信息生r,生r式 A 引发了人工智能的转折点,并ëú了 A 在全球范围内采用的 ̧梯式增长2非常Þ要的是,人们部署在全球所pß和数据中心的ë理量的量_在大幅的增à2ú态3ÿ数_化p望是人工智能的Q一ï浪潮2数_化的发展,p望将人工智能带入Q一 ̧段,即Q一波 AI 浪潮2在à一 ̧段中, AI O仅对数_信息ß行í作1生r文本和生r图像2 AI将在运营工厂1实体工厂1自系统和机器人€术2 在à种特殊情况Q,数_化真kp机a使世界P一些最大的行业实现自ú化2要点1ÿ生r式AIëú对英伟达àŸĀ的需求增长2生r式 AI k在ëú对 NVIDIA Ā的需求àŸ增长2Hopper ¿«了一个 transformer 引î,该引î_~大型语言模型和人们现在所说的基础模型而¿«2Ÿ着 Hopper 的ë出,Hopper þ经被ñN所p的ß服á提供商所采用2要点2ÿ硬þP^ú态—新ë出DPU BlueField-3,Grace Hopperþ投入生产2在AIë理领域新ë出四种产品2数据中心并非是一个单纯的«算机,而是一个巨型系统精心编排和运行的«算机群2该«算集群中的í作系统ÿ包括容器化1虚拟化Ā1网þ1`储1Ü全性等指o均非常Þ要2à些à用程序的隔离和未来的机密«算是在软þ定O层中运行,该软þ层í耗大量 CPU 内€2新ë出DPU BlueField-32英伟达新ë出的BlueFieldÿ实现<卸载1àŸ现ï软þ定O数据中心的í作系 统=等ß能,若~合作`伴和ß数据中心厂商k在采用BlueField产品2Grace Hopperþ投入生产,并ß行抽测试 ̧段2该产品要用于要的ë理工作负载之一1矢量数据ß1数据处理1ë荐系统2人工智能ë理系统是世界P最pÿ值和最Þ要的à用程序之一,目前ë荐系统k在转U深度学`2Grace Hopper 是_门~l¿«的,它¬s们p机a在大型数据ß的ë荐系统中获得 10 倍的àŸ,目前Graceþ投入生产,并ß行抽测试 ̧段2Grace _~无法àŸ的ß数据中心中的w余工作负载而¿«2 一æ你àŸ了一W,剩Q的就是真k想要拥p非常强大的单线程性能的软þ2 而单线程性能k是 Grace 的¿«目o2 s们ß将 Grace ¿«~O仅是快Ÿ«算机的 CPU,而`是非常非常节能的ß数据中心的 CPU2 当你把整个数据中心看r一Ā电脑时,当数据中心就是电脑时,那N你在àŸ数据中心1AI-first1cloud-first 数据中心的背景Q¿« CPU 的方式,那个 CPU ¿«就是 完全O同2新ë出4个ë理ĀÿL41L40 1H100 NVL和Grace-HopperĀ,针对各种快Ÿt起的生r式 AI à用程序ß行了_化2数据中心对于AIë理的àŸ诉求较强,但是该领域中的诉求是多模态的,AIë理的工作负载类型较多ÿp时,您想ß行ë理,将ë理和 AI 引入视频,然后使用生r AI 对wß行增强2 p时,它是图像,产生美丽的图像并€ûr~共同] 者2 p时,您k在生r文本,非常长的文本Ā2à些à用程序中的每一个,视频1图像1文本,当然ßp矢量数据ß,它们都pO同的特à,à给数据中心的建¿带来了挑战2因~Q游û户需要每一种模式或每一种O同的生r AI 工作负载配备_门的àŸ器2同时,数据中心的服á和租户_是在O断Ù化的2针对P述挑战,英伟达采×了基于一个架构四个配置的策略ÿL41L40 1H100 NVL和Grace-HopperĀ,能够最大力度àŸ各种工作负载2目前公司在l领域,k在à大P谷歌的合作2要点3ÿàŸß—2023€_化并发_100个ß1100个模型,cuLithoàŸß是今€Þ要看点如果你àŸ工作负载,你必须Þ新¿«à用程序,必须完全Þ构算法,将算法编码到àŸß中2在建立每一个àŸß的过程中,s们都需要了解l领域中的ú态和ß展,并P产业链的合作`伴合作,]建àŸß,并将他们链接到x体的à用程序生态系统,并ëú和àŸ该领域的发展2对于英伟达来讲,û户购买了英伟达的系统,ÿñ在未来ñ€内享ØàŸ服á2在同一ĀP,在您Ü装它之后,在w整个生命周期内将性能提高 4到10倍22023€,英伟达_化并发_了100 个ß和 100 个模型2在lk大aP,s们ë出了cuLithoàŸß,用于半导体Z刻工艺的图案和ì模的]建2过去4€时间Ý,s们将cuLithoàŸß的Ÿ度提高了þ50倍2依托该àŸß,一方面ÿñ降P芯w¿«中的«算时间&流水线时间和吞T时间ÿ如果将开发周期减少10%,对世界的ÿ值很大Ā,ø一方面ÿñ大幅降P电力r本的ÿ未来p机a降P5-10倍Ā要点4ÿß服á—历史P商业模式最大的一k扩张ß服á使得í费者p机a通过WebpÉ器àŸ或者及时的使用«算Ā2在过去10€时间Ý,ß服á的能力在O断ßm,Ð最开始只pCPU1运行Hadoop或者MapReduce或者做查询,到现在p高性能«算,ù学«算 系统,ß中的 AI 超ÿ«算机2 因l,s们将P世界P所p的ß服á提供商合作2 ÐOrical开始,s们ßü_了PAzure和GCP的ß合作`伴s系2 s们将P世界领Y的ß服á提供商合作,在ß端实施1Ü装和托管NVIDIA AI1NVIDIA Omniverse 和 NVIDIA DGX Cloud2 à做,ÿñ使得í费者能够获得 NVIDIA AI 和NVIDIA Omniverse 的完全_化的多ß堆p,而`p机a在ß端享Ø最_化的配置,ñ最佳形式获得 NVIDIA软þ堆p的所p_势2 0V析师Q&A1Q1ÿ鉴于您所谈到的ë荐系统的Þ要性1LLM 的增长ñ及您P Google 的合作,^场似Nk在朝着您的方U发展2s们à该如何考虑你在 3 到 5 €后的ë理机a,s们à该如何看待 Grace 在未来ñ€在那Ý扮演的角色? Q2ÿ过去,您要«论了结合使用 Grace 和 Hopper 的好处2 今y,您_比s预期的更s注独立的 Grace2 您能否谈谈您是否改Ù了对预期服á器 CPU 份额增长前景的看法? Ÿ着时间的ë移,s们à该如何考虑潜在的收入贡献,特别是当你考虑 Grace 独立1Grace 超ÿ芯w,然后显然是 Grace-Hopper Ā合时?s认~ Grace 对s们来说将是一项大业á,但它a——它àO及àŸ«算的规模2s们看好Grace未来业á的增长,要是看好àŸ工作在«算机图形学1视频处理1生r式AI等领域中的未来发展势2对于单线程ï码,阿姆达尔定律Ï然p效,w它的都þ到达瓶颈2由于单线程ï码要P数据处理1获×大量数据1移ú大量数据相s,s们¿«的CPU是同时擅长处理两个事情ÿxp极佳的单线程性能,移ú数据量非常大Ā2对于那些工作量非常大并`希望ÐàŸ中Ø益的公司来说,最Yß的人工智能的好处s们现在p一个直接的服á,s们ÿñ在w中参P世界各行业2 à是s们将 NVIDIA 带来的最好的东西和所p CSP 的最好的东西结合起来的ÿ妙方式2 他们~ßÜ全1`储Ü全ñ及他们提供的所pw他 API 服á提供了ð人难ñ置信的服á,而`他们很ÿ能þ经r~您选择的ß2ü_了Ā及服áÿNVIDIA AI,NVIDIA OmniverseĀ1€术¿施及服áÿNVIDIA DGX CloudĀ产品,拓展了公司的商业模式2如果一个企业的û户,如果一个行业想要À问基础模型,最明显和最容易获得的是P世界领Y的服á提供商合作,如 OpenAI 或微软和谷歌2 à些都是旨在~许多行业提供高ÿ用性1高度灵活性和实用性的AI 模型示例2p些公司希望构建_门基于w数据的自定O模型,而 NVIDIA 拥p实现à一目o的所p能力2 因l,对于希望基于w_p数据构建定制模型的û户,ñw特定方式ß行 ̄ÿ1开发和ë理Ā 无论是他们想要放置1实施的护栏,ß是他们想要执行的指ð类型1调整2DGX ß在世界P所p要的 CSP 中运行2 因l,如果您þ经p了自ý选择的 CSP,英伟达能够在w中托管它23 到 5 €后,s们今yk在建 的 AI 超ÿ«算机,毫无疑问是当今世界制 的最Yß的«算机2 当然,它的规模是巨大的2 它包括«算结构,如 NVLink1«算——大型«算1大规模«算结构,如 InfiniBand,ñ及将它们缝合在一起的非常复g的网þ2 软þp,它的í作系统,V_式«算软þ,它只是«算机ù学的极限2ë理目前要是面U CPU 的工作负载ÿë荐P购物1书籍或查询1视频处理等相s的内容Ā, à是因~当今世界P的大多数ë理都相当轻量ÿ2 但是s们认~à一势k在被改Ù,要原因包括ñQ两个方面ÿ使用CPU做ë理缺Oÿ持续性2 您O能继续担à些视频工作负载并在 CPU P处理它们2 你O能拿à些深度学`模型,即使服á质量差一点或好一点,用 CPU 来做,它只aí耗z多电力2而`à种敏感性现在þ经渗透到ñN每一个ß服á提供商,因~他们拥p的需要àŸ的工作量þ经增à了很多2 所ñ他们对àŸ的s注,他们对àŸ的警Ê性提高了2 wk,ñN每个人都处于他们的h力极限2 因l,~了在未来实现增长,您真的必须通过àŸ来Þ新获得ú力,然后再将w恢复增长2生r式人工智能þ经到来2 s们将看到ñN每一个行业,Ð共同] 者1共同试点中Ø益,Ð共同] 者1共同试点中扩大,àŸs们所做的一W,Ðs们]建的文本1s们P之交à的聊y机器人1s们使用的电子表格1PowerPoint 和 Photoshop 等等 依l类ë,它们都将r~——你将被共同] 者或副驾驶增强,你将被àŸ,Ø到启发2 s们¿«了整个系统,而O是只构建一个超快的 CPU €心——CPU,s们¿«了一个超快的 CPU 节点2 通过à做,s们ÿñ增强ß率Ø限的数据中心能够使用尽ÿ能多的 CPU 的能力2 s认~总的来说,àŸ«算将r~未来«算的要形式,因~摩尔定律þ经走到尽头2 但剩Q的将是繁Þ的数据处理1繁Þ的数据移ú和单线程ï码2 因lCPU Ï将非常非常Þ要2 只是¿«点aPñßO同2 Q3ÿ每k查询的r本kr~生r式 AI û户的要s注点,他们k在谈论在未来ñ个季度和ñ€内大幅减少2 您能谈谈à对 NVI