国投证券 每周新风向又一年WAIC 人工智能产业热点速递

00:00:00 证券计算机每周新风向，又一年waic人工智能产业热点速递目前所有参会者均处于静音状态，下面开始播报声明，声明播报完毕后，主讲人可直接开始发言，谢谢。本次会议仅限国投证券股份有限公司白名单客户参与，会议内容不允许以任何方式对外泄露，违者国投证券股份有限公司有权追究法律责任及一切经济损失。 00:00:30 各位投资人大家晚上好，我是国投证券计算机的分析师夏银涛。那今天晚上的话呢，是给大家来汇报一下这个今年世界人工智能大会waic的一些情况。呃，因为今年的这个大会的话呢，我也是这个就是这个前两天也是现场去做了一个观展啊，因为我每年也都去啊，所以说其实也是可以呃，看到一些新的趋势和对比这个之前的一些展会吧，就是有一些这个相关的一些观察。所以今天晚上呢也给大家做一个相对系统的一个这个汇报。 00:01:01 那首先呢就是先说一个感觉啊，就是说今年整个的这个waic如果用一个字来总结的话呢，那我应该就是呃认为这个是一个很热的会啊，就是很热的会。那这个热呢，一方面当然是从物理意义上来说啊，就是这个场馆其实本身比较热啊，那因为就是上海这边温度也比较高，如果去过的人呢，应该都有感觉，这个场馆里面就是基本上约等于没有空调啊。 00:01:27 那另外一方面呢，其实也是从我们说的这个氛围或者说餐馆的参展的这个人数来说，呃，因为我基本上每年都去啊，所以说对比去年的话呢，今年整个的参会的这个厂商也好，观展的人员也好，应该比去年都有显著的增长。呃，这个几个典型代表性的可以看到的一个情况。 00:01:48 一个就是我们今年在入馆的时候就要排队了啊，就是去年的话基本上是呃就是人流市还在动啊，今年的话基本上入馆排队可能得排个半个多小时时间啊。然后整个的人流的话呢，我觉得预估比去年基本上会增长个呃3成到5成的一个人呃人流啊，所以说这个是从整个 的一个。我们说的这个参展的这个氛围来说，应该明显比去年还是又有了进一步的这个关注度的提升。 00:02:16 那其次呢，就是今年其实展出的这个整体的这个范围比去年更广啊，今年其实是3D4管的一个整体的一个这个。线下的一个展览和这个相关的会议啊，去年的话呢应该主要就集中在这个世博的这个园区这边附近啊。所以说这个是我们说整个规模层面呢，今年也是有一个显著扩大的。那这个是如果我要用一个词来概括啊，我觉得今年就是热啊，就是今年显著是比去年整个产业的关注度，和这个大家的一个参展热情都是要高很多。 00:02:47 那如果我们从里面的具体的一些展出的这个产品啊，或者说这个行业的趋势来说呢，呃，我分几个方面给大家做一个整体的汇报啊。 00:02:58 就是首先第一个方面呢，我们还是关注这个算力产业啊，算力产业层面，那算力产业层面的话呢， 00:03:05 今年如果要说这个重要的关键词呢，我觉得就是这个国产的超节点。啊，或者就是大家所谓的这个国模配国芯啊，就是整个的一个搭载在这个，就是国产的芯片平台和服务器的这种机群上面的，整体的这个AI的相关的这个算力的这个基础设施。那这个是今年我们可以看到相比去年来说啊，又有了比重上的明显提升啊。其实去年的WAIC呢，当时我也去了啊，也看到了一些所谓的超节点方案，典型代表性的是华为的这个升腾，这个就是384的超节点啊。当时应该还是以这个就是910C啊，就是为这个就是主要的芯片平台推出的这个超节点方案。 00:03:47 那其次呢，就是其他几家厂商啊也有这种转机柜方案啊，但是这种转机柜呢，其实离我们现在真正意义上的超节点呢还是有一些差距啊，它的整体的这个集成度啊，包括它的卡片互联的一些这种带宽啊这些形式的。 00:04:02 在家？有。板块的这个展馆呢，基本上都是围绕各种类型的超节点的这个展出和落地啊， 所以超节点这个方案，应该说经过一年的这个产业的一个呃这个发展和迭代啊，应该说逐渐的进入到了一个实用化的阶段啊。也就是说，在未来我们能看到越来越多的，以超节点形式去落地的国产算力的这些基础设施啊，可能会进入到呃这个就是地方性的算力中心，进入到国央企的这个数据中心，甚至于进入到互联网大厂啊。我们这个我们相信是一个非常明确的一个产业趋势。那从各家的这个超节点方案来说呢，其实还是有一些差异的。 00:04:50 啊这次呢典型代表性的有几个啊方案，我给大家简单可以呃这个讲一下啊我这边这个这个感受啊， 00:04:57 第一个就是华为的新的这个方案体系，也就是它的这个就是。呃，升腾的950啊，这个超级演示方案，就是以它的这个深腾950搭载的，叫阿特拉斯950的super po的这个产品。那这个产品应该主打的就是这个大啊，就是大呃，就是它整个的是实现了1024卡的互联， 00:05:16 如果说去做这个更大规模扩张的话呢，那应该是可以支持8000多张卡的，呃，这个外外延的扩张啊，那这个是应该是最大的一个规模的超节点的方案啊。就是在现场的话基本上没有超过这个方案，而且呢它基本上这个就是因为它有这么多卡，所以它卡之间的话呢，基本走的就是以这个就是光互联为主的这种方啊。因为就是相对来说卡和卡之间的这个传输距离会比较远啊，就是如果是走同啊走这个就是内部的呃这个线缆连接的话呢，可能它的这个传输的这个衰减会比较强强一些，所以它基本上是一个强光互联的一个方案啊。 00:05:54 然后支持的是1亿flops的这个FP8的这个算力啊，256T的全局内存的统一的巡视。和这个就是这个相对于这个内存的一个调调配，呃，然后支持的是这个3微秒的超低的RTT的这个这个空口时延啊，这个其实相比它上一代应该是从7微秒呃下降到了3微秒，应该说整个的一个时延进一步的降低啊。 00:06:19 所以说整个的华为这个方案呢，应该是呃，我们理解是这个就是应该是算是超节点里面一个相对来说，呃非常领先的一个方案了啊，当然它的一个。一个问题呢，就是它基本上就 只适配于华为自己的升腾的这个服务器啊，基本上是一个偏我们说的这个定制化的，以华为自己的这个服务器为基座，然后构建的一个完整的一个解决方案。啊，所以说呢，如果在这个里面要换成别的国产芯片啊啊，换成别的这个就是算力芯片去构建的话呢，可能它的兼容性各方面啊会有一些问题啊，所以说这个是华为的整个的方案。 00:06:56 那基本上呢，也看到他这次大会也讲了，他之前的那个384超节点呢，基本上已经有的这个700多套的一个落地啊，所以说整体的这个推进的还是非常快的。 00:07:07 那另外一个典型代表性的案例，就是现在目前国内首个10万卡集群的这个超节点的方案，就是中科曙光推的这个曙光8000，这个叫登峰的这个系列的这个呃超节点的这个产品方案。那这个其实也是比较有特点的，甚至入选了今年这个就是呃这个这个waic的所谓的镇馆之宝啊，之一就是这个曙光8000的这个就是超节点方案。那这个超节点呢，相对来说的区别就在于还是蛮大的， 00:07:38 跟华为那个这个首先第一个就是它的这个就是我们说的一个，这个就是呃。呃集群的话呢，基本上它是以这个就是呃刀片式的，就是这个EU的这个就是这个卡啊，这个这个一张这个EU的一个，这个就是片子上面基本上是正反两面16张的这个这个GPU。再加上可能就是每面有两张的CPU啊，加在一起来做成一个小的一个刀片式的模块集群， 00:08:05 然后基于这个东西去扩展啊，大概是这么一个情况。然后它呢核心就是说全套的所有的从算力芯片到它的互联方案，到它的这个存储呃交换，包括这个就是冷却散热都是全国产的自研的这套体系。呃而且的话呢，首先第一个就是它的这个芯片呢，现在就是用的是海光的VCU， 00:08:25 那它的互联方案呢是开发了一个类这个ID的，就是infiniteband的这种，就是这个连接方案，就是rdma a的这个高速网络方案啊。这个的话呢基本上就是卡接互联的带宽应该是800G左右吧，啊可能800G左右，那之前华为那个卡接互联应该到达两T啊那个可。能更快一些。 00:08:46 那其次呢，一个相对的特点就是它是一个静默式的方案啊，因为我们知道曙光它的一个比较强的基础，就是这个叫相变静没液冷的这么一个技术，这个是他们之前在做超算的数据中心的时候，就是呃会一直去用的一个技术方案。那现在其实带到了这个超节点的这种集成式的这个GPU的计算集群里面， 00:09:08 其实也用了相变静默液冷的这个方案。那这个应该是呃场馆内所有的超节点方案里面，应该是相对为数不多的用这个静默液冷的这个形式。那其他的基本上都是冷板式的液冷啊，包括华为包括其他的这个厂商，都是还是以冷板的这种形式去做这个就是呃这个冷却的，那它这个是一个相对来说的一个呃它自己的一个特点啊。那这个就是曙光的这个方案啊， 00:09:34 我觉得就是这套方案的话，目前看起来绝大部分情况还是在呃地方性的算力中心，或者说偏政企类的这个客户的采用会更多一些。那像华为那个方案呢，可能已经能进一些互联网大厂啊，那这个可能是他们的从下游客户的用途上面还是有些区别的。那像这次的话呢，就郑州的这个10万卡的这个国产算力机群，应该全套都是用的这个是王八千他们这一套方案啊去实现的，那这个是另外一第二个典型代表性的这个超节点方案。 00:10:04 那第三个就是阿里平头哥啊。阿里平头哥发布的真武890的M890的芯片，以及它的这个盘九a128的超节点的服务器啊，就相对于内部搭了他自己的真武M890的芯片，然后最终打造了一个128的一个超节点的这么一个这个产品。那所谓128就是128张卡啊，就是这么一个超界点。所以这个规模呢，我们对比华为啊，对比曙光啊，就会看到这个基本上来说相对来说会小很多。啊所以说它这个呢虽然也是训推一体啊， 00:10:35 但是其实绝大部分情况下涉及的应用场景还是以推理为主啊。推理为主的这个场景去使用， 00:10:42 那可能呢部分的训练啊，比如说一些智能驾啊，这个自动驾驶的一些算法模型训练，一些 机器人的一些模型的开发，那它是可以搭载在这个超级点方案去使用。如果是那种我们认为的这个，就是比较大的参数量的模型的这个大语言模型的训练，可能我觉得这种128的超级点方案可能还是呃比较难以去承载。 00:11:02 那这个是阿里的它的这个方案的情况，那这个方案其实是有两个64。卡的这个集群，这个就是中间有隔断，然后构头在构建在一起的这个128的这个方案。那它的一个互联形式呢，也是通过正交费板的形式啊，相对于还是走的同连接，就是scale up的过程是同连接，Scale up呢是走的是光互联啊， 00:11:26 这么一种方案去实现的啊。基本上的卡间互联也是到了这个800GB啊，就是大B的这个GB的这个，这个我们说的卡间互联的带宽。那相比前一代的这个芯片呢，应该性能是有3倍的提升。那这个是呃这个阿里的这个方案啊，这个方案呢，其实也代表了很大一类的目前市面上的超节点的方案的形式啊。 00:11:48 当然我们还看到其他的，比如说浪潮啊等等，甚至它不一定是增交背板的这种形式啊，就是以传统的这种PCI e的这个就是呃，这个交换机的这种连接的形式为主啊。所以说今年可以看到的超节点的这个形式是多种多样的，那也是适用于不同场景的啊。有适用于我们说的配合国产模型去做这个这个训练测的，像华为的这种非常大规模的机器，也有适用于这种地方算力中心的这种曙光类的这种方案啊，也有适用于绝大部分的推理场景和部分训练场景的啊，像阿里的这种超节点方案啊。 00:12:22 所以说我们觉得整体看起来呢，就是这个超节点的这个方案的种类其实是比较多，而且主要的差异呢，我们觉得更多的还是在它的这个就是呃，Scale up的一个这个连接的这个互联的这种方案的类型。 00:12:36 呃，包括你是用铜还是用的是光啊，你是走了类呃NPO的CPU的这种形式啊，还是OCS的这种形式，还是说啊还是传统的这种就是呃铜的这种连接的形式，它可能是会有不同的这种类型啊。当然现在也很难说哪一种是终局或者说一定是往哪个方向走啊，但是说大大 家基本上