a°纪要a°题ÿ:NVIDIA Corp GTC Financial Analyst Q&A;a°时间ÿ2023€3o22å01:00AM - 02:00AM CSTÞ方ÿ英伟达出人ÿColette M. Kress, NVIDIA Corporation - Executive VP & CFOJensen Huang, Co-Founder, CEO, President & DirectorSimona Jankowski, NVIDIA Corporation - VP of IRl迎联系ÿ中信前瞻 陈俊ß/高飞翔 0黄ā勋GTC大a总结111lka°谈论到了O个ú态，要î及ÿ持续发展1生r式AI1数_化2 21lka°谈论到了四个要点，要î及生r式AI1硬þP^ú态1àŸß1ß服á ú态1ÿÿ持续发展ÿ摩尔定律的发展þ经终结，英伟达在过去若~€的时间Ý，一直落地àŸ«算的发展2截ó目前，英伟达在àŸ«算领域做到了全p式_局，Ð架构1到系统1到软þ1到àŸß再到对à的à用程序2英伟达àŸ«算，ÿñ做到横U扩展1UP扩展1U外扩展，产品更xp灵活性2英伟达的àŸ«算Ā_被用到多个领域ÿ粒子物理学1流体ú力学，直到机器人学1人工智能等等,«算机图形学1图像处理，视频处理Ā今y,所pà些类型的领域都í耗了大量的 CPU 内€和大量的电力2s们p机aàŸ所pà些,降Pß耗,降Pr本2NVIDIA 的àŸ«算Ā是Ðß到边缘的2à是每个ß中€一ÿ用的架构2世界PñN所p的«算机制 商都ÿñ在本地使用它2它ÿ用于ë理系统1边缘系统1机器人自ú驾驶汽车等等2同时英伟达的àŸĀ是完全开放的2à意味着您ñNÿñÐ世界P任何地方的任何«算Ā2ú态2ÿ生r式AIp望引发人工智能的转折点2伴Ÿ着生r式AI的发展，s们经历了Ð世界感知到信息生r，生r式 A 引发了人工智能的转折点，并ëú了 A 在全球范围内采用的 ̧梯式增长2非常Þ要的是，人们部署在全球所pß和数据中心的ë理量的量_在大幅的增à2ú态3ÿ数_化p望是人工智能的Q一ï浪潮2数_化的发展，p望将人工智能带入Q一 ̧段，即Q一波 AI 浪潮2在à一 ̧段中， AI O仅对数_信息ß行í作1生r文本和生r图像2 AI将在运营工厂1实体工厂1自系统和机器人€术2 在à种特殊情况Q，数_化真kp机a使世界P一些最大的行业实现自ú化2要点1ÿ生r式AIëú对英伟达àŸĀ的需求增长2生r式 AI k在ëú对 NVIDIA Ā的需求àŸ增长2Hopper ¿«了一个 transformer 引î，该引î_~大型语言模型和人们现在所说的基础模型而¿«2Ÿ着 Hopper 的ë出，Hopper þ经被ñN所p的ß服á提供商所采用2要点2ÿ硬þP^ú态—新ë出DPU BlueField-3，Grace Hopperþ投入生产2在AIë理领域新ë出四种产品2数据中心并非是一个单纯的«算机，而是一个巨型系统精心编排和运行的«算机群2该«算集群中的í作系统ÿ包括容器化1虚拟化Ā1网þ1`储1Ü全性等指o均非常Þ要2à些à用程序的隔离和未来的机密«算是在软þ定O层中运行，该软þ层í耗大量 CPU 内€2新ë出DPU BlueField-32英伟达新ë出的BlueFieldÿ实现<卸载1àŸ现ï软þ定O数据中心的í作系 统=等ß能，若~合作`伴和ß数据中心厂商k在采用BlueField产品2Grace Hopperþ投入生产，并ß行抽测试 ̧段2该产品要用于要的ë理工作负载之一1矢量数据ß1数据处理1ë荐系统2人工智能ë理系统是世界P最pÿ值和最Þ要的à用程序之一，目前ë荐系统k在转U深度学`2Grace Hopper 是_门~l¿«的，它¬s们p机a在大型数据ß的ë荐系统中获得 10 倍的àŸ，目前Graceþ投入生产，并ß行抽测试 ̧段2Grace _~无法àŸ的ß数据中心中的w余工作负载而¿«2 一æ你àŸ了一W，剩Q的就是真k想要拥p非常强大的单线程性能的软þ2 而单线程性能k是 Grace 的¿«目o2 s们ß将 Grace ¿«~O仅是快Ÿ«算机的 CPU，而`是非常非常节能的ß数据中心的 CPU2 当你把整个数据中心看r一Ā电脑时，当数据中心就是电脑时，那N你在àŸ数据中心1AI-first1cloud-first 数据中心的背景Q¿« CPU 的方式，那个 CPU ¿«就是 完全O同2新ë出4个ë理ĀÿL41L40 1H100 NVL和Grace-HopperĀ，针对各种快Ÿt起的生r式 AI à用程序ß行了_化2数据中心对于AIë理的àŸ诉求较强，但是该领域中的诉求是多模态的，AIë理的工作负载类型较多ÿp时，您想ß行ë理，将ë理和 AI 引入视频，然后使用生r AI 对wß行增强2 p时，它是图像，产生美丽的图像并€ûr~共同] 者2 p时，您k在生r文本，非常长的文本Ā2à些à用程序中的每一个，视频1图像1文本，当然ßp矢量数据ß，它们都pO同的特à，à给数据中心的建¿带来了挑战2因~Q游û户需要每一种模式或每一种O同的生r AI 工作负载配备_门的àŸ器2同时，数据中心的服á和租户_是在O断Ù化的2针对P述挑战，英伟达采×了基于一个架构四个配置的策略ÿL41L40 1H100 NVL和Grace-HopperĀ，能够最大力度àŸ各种工作负载2目前公司在l领域，k在à大P谷歌的合作2要点3ÿàŸß—2023€_化并发_100个ß1100个模型，cuLithoàŸß是今€Þ要看点如果你àŸ工作负载，你必须Þ新¿«à用程序，必须完全Þ构算法，将算法编码到àŸß中2在建立每一个àŸß的过程中，s们都需要了解l领域中的ú态和ß展，并P产业链的合作`伴合作，]建àŸß，并将他们链接到x体的à用程序生态系统，并ëú和àŸ该领域的发展2对于英伟达来讲，û户购买了英伟达的系统，ÿñ在未来ñ€内享ØàŸ服á2在同一ĀP，在您Ü装它之后，在w整个生命周期内将性能提高 4到10倍22023€，英伟达_化并发_了100 个ß和 100 个模型2在lk大aP，s们ë出了cuLithoàŸß，用于半导体Z刻工艺的图案和ì模的]建2过去4€时间Ý，s们将cuLithoàŸß的Ÿ度提高了þ50倍2依托该àŸß，一方面ÿñ降P芯w¿«中的«算时间&流水线时间和吞T时间ÿ如果将开发周期减少10%，对世界的ÿ值很大Ā，ø一方面ÿñ大幅降P电力r本的ÿ未来p机a降P5-10倍Ā要点4ÿß服á—历史P商业模式最大的一k扩张ß服á使得í费者p机a通过WebpÉ器àŸ或者及时的使用«算Ā2在过去10€时间Ý，ß服á的能力在O断ßm，Ð最开始只pCPU1运行Hadoop或者MapReduce或者做查询，到现在p高性能«算，ù学«算 系统，ß中的 AI 超ÿ«算机2 因l，s们将P世界P所p的ß服á提供商合作2 ÐOrical开始，s们ßü_了PAzure和GCP的ß合作`伴s系2 s们将P世界领Y的ß服á提供商合作，在ß端实施1Ü装和托管NVIDIA AI1NVIDIA Omniverse 和 NVIDIA DGX Cloud2 à做，ÿñ使得í费者能够获得 NVIDIA AI 和NVIDIA Omniverse 的完全_化的多ß堆p，而`p机a在ß端享Ø最_化的配置，ñ最佳形式获得 NVIDIA软þ堆p的所p_势2 0V析师Q&A1Q1ÿ鉴于您所谈到的ë荐系统的Þ要性1LLM 的增长ñ及您P Google 的合作，^场似Nk在朝着您的方U发展2s们à该如何考虑你在 3 到 5 €后的ë理机a，s们à该如何看待 Grace 在未来ñ€在那Ý扮演的角色？ Q2ÿ过去，您要«论了结合使用 Grace 和 Hopper 的好处2 今y，您_比s预期的更s注独立的 Grace2 您能否谈谈您是否改Ù了对预期服á器 CPU 份额增长前景的看法？ Ÿ着时间的ë移，s们à该如何考虑潜在的收入贡献，特别是当你考虑 Grace 独立1Grace 超ÿ芯w，然后显然是 Grace-Hopper Ā合时？s认~ Grace 对s们来说将是一项大业á，但它a——它àO及àŸ«算的规模2s们看好Grace未来业á的增长，要是看好àŸ工作在«算机图形学1视频处理1生r式AI等领域中的未来发展势2对于单线程ï码，阿姆达尔定律Ï然p效，w它的都þ到达瓶颈2由于单线程ï码要P数据处理1获×大量数据1移ú大量数据相s，s们¿«的CPU是同时擅长处理两个事情ÿxp极佳的单线程性能，移ú数据量非常大Ā2对于那些工作量非常大并`希望ÐàŸ中Ø益的公司来说，最Yß的人工智能的好处s们现在p一个直接的服á，s们ÿñ在w中参P世界各行业2 à是s们将 NVIDIA 带来的最好的东西和所p CSP 的最好的东西结合起来的ÿ妙方式2 他们~ßÜ全1`储Ü全ñ及他们提供的所pw他 API 服á提供了ð人难ñ置信的服á，而`他们很ÿ能þ经r~您选择的ß2ü_了Ā及服áÿNVIDIA AI，NVIDIA OmniverseĀ1€术¿施及服áÿNVIDIA DGX CloudĀ产品，拓展了公司的商业模式2如果一个企业的û户，如果一个行业想要À问基础模型，最明显和最容易获得的是P世界领Y的服á提供商合作，如 OpenAI 或微软和谷歌2 à些都是旨在~许多行业提供高ÿ用性1高度灵活性和实用性的AI 模型示例2p些公司希望构建_门基于w数据的自定O模型，而 NVIDIA 拥p实现à一目o的所p能力2 因l，对于希望基于w_p数据构建定制模型的û户，ñw特定方式ß行 ̄ÿ1开发和ë理Ā 无论是他们想要放置1实施的护栏，ß是他们想要执行的指ð类型1调整2DGX ß在世界P所p要的 CSP 中运行2 因l，如果您þ经p了自ý选择的 CSP，英伟达能够在w中托管它23 到 5 €后，s们今yk在建 的 AI 超ÿ«算机，毫无疑问是当今世界制 的最Yß的«算机2 当然，它的规模是巨大的2 它包括«算结构，如 NVLink1«算——大型«算1大规模«算结构，如 InfiniBand，ñ及将它们缝合在一起的非常复g的网þ2 软þp，它的í作系统，V_式«算软þ，它只是«算机ù学的极限2ë理目前要是面U CPU 的工作负载ÿë荐P购物1书籍或查询1视频处理等相s的内容Ā， à是因~当今世界P的大多数ë理都相当轻量ÿ2 但是s们认~à一势k在被改Ù，要原因包括ñQ两个方面ÿ使用CPU做ë理缺Oÿ持续性2 您O能继续担à些视频工作负载并在 CPU P处理它们2 你O能拿à些深度学`模型，即使服á质量差一点或好一点，用 CPU 来做，它只aí耗z多电力2而`à种敏感性现在þ经渗透到ñN每一个ß服á提供商，因~他们拥p的需要àŸ的工作量þ经增à了很多2 所ñ他们对àŸ的s注，他们对àŸ的警Ê性提高了2 wk，ñN每个人都处于他们的h力极限2 因l，~了在未来实现增长，您真的必须通过àŸ来Þ新获得ú力，然后再将w恢复增长2生r式人工智能þ经到来2 s们将看到ñN每一个行业，Ð共同] 者1共同试点中Ø益，Ð共同] 者1共同试点中扩大，àŸs们所做的一W，Ðs们]建的文本1s们P之交à的聊y机器人1s们使用的电子表格1PowerPoint 和 Photoshop 等等 依l类ë，它们都将r~——你将被共同] 者或副驾驶增强，你将被àŸ，Ø到启发2 s们¿«了整个系统，而O是只构建一个超快的 CPU €心——CPU，s们¿«了一个超快的 CPU 节点2 通过à做，s们ÿñ增强ß率Ø限的数据中心能够使用尽ÿ能多的 CPU 的能力2 s认~总的来说，àŸ«算将r~未来«算的要形式，因~摩尔定律þ经走到尽头2 但剩Q的将是繁Þ的数据处理1繁Þ的数据移ú和单线程ï码2 因lCPU Ï将非常非常Þ要2 只是¿«点aPñßO同2 Q3ÿ每k查询的r本kr~生r式 AI û户的要s注点，他们k在谈论在未来ñ个季度和ñ€内大幅减少2 您能谈谈à对 NVI