您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [未知机构]:产业调研:AI芯片行业真实现状【国君计算机】–20230801 - 发现报告

产业调研:AI芯片行业真实现状【国君计算机】–20230801

2023-08-02 未知机构 天然呆໊
报告封面

近期国君TMT团队邀请了AI算力专家做分享,现将交流内容总结如下: 国外使用GPT通用模型,国内现在开发各种各样的专属模型,模型下边会有一个底座,使用异构GPU算力。把GPU放到AI里面,就叫它AI芯片。 AI芯片大概分四类:GPU,FPGA,ASIC和类脑,类脑目前还是在实验室研究阶段。 【国君计算机】产业调研:AI芯片行业真实现状 近期国君TMT团队邀请了AI算力专家做分享,现将交流内容总结如下: 国外使用GPT通用模型,国内现在开发各种各样的专属模型,模型下边会有一个底座,使用异构GPU算力。把GPU放到AI里面,就叫它AI芯片。 AI芯片大概分四类:GPU,FPGA,ASIC和类脑,类脑目前还是在实验室研究阶段。市场销售比较多是前三类,大模型背景下面我们能看到GPU和ASIC出货量最多。国内在大模型出来之前,AI芯片公司更多关注ASIC,因为GPU的研发难度是比较高的,ASIC相对来说是算力小,然后成本低,总结就是便宜、好用、专用。 AI应用海外内差异较大,特别是大模型出来以后,GPU算力落地的行业不太一样。海外和国内的区别在于海外在商业市场落地是比较快的,国内虽然说互联网厂商们一直在囤英伟达的芯片,但是能看到真正在B端能够产生实际应用场景反而是在政府侧。 特殊国情导致很多数字化、信息化的应用,政府会冲在前面。其他国家的政府好像也没有中国在这方面效率高,直观上现在公共安全政务部门对GPU的这个算力开始格外关注。另外,考虑到信息安全的问题,政府部门也在关注中国人自己到底能不能做真正的GPU,或者说GPU出来之后能不能好用?能不能低成本使用,能不能用出中国特色,因此国内是政府端的大需求是和互联网厂商同步的。 海外更多的是商业化的应用。德国那边已经研发在用英伟达GPU的算力集群,加上通用模型、加化工行业的专属模型,去做化学材料的加速创新研发,这意味着将来大家的汽车发生事故以后没必要再纠结是否去4S店补漆,以后小汽修店把漆补的又亮又硬又漂亮,跟原来的车的颜色一样的。这就是算力落地能够在生活中的一些应用。 国内的芯片公司产品做得再好也需要市场营销。目前国内产品做得再好,哪怕是像华为海思这样,在客户侧的号召力依旧赶不上老大哥Intel、英伟达。所以,产品再优秀,依旧需要市场销售去在客户侧做大量基础工作。芯片这个圈子仅仅靠国内是难以自主循环的,芯片产业是一个全球的产业链,国内最擅长的是芯片设计,我们设计确实是很厉害的,如果没有制裁或者限制,海思会把芯片做得很漂亮,国内也会孵化出很多不错的芯片设计公司。但是在上游EDA软件的问题到下游工厂光刻机以及光刻胶的生产等等,目前这些材料一旦到了生产28纳米以下的芯片,就有很多问题存在,国内目前能做到的就是中低端产品,在中低端勉强可以做一些产业链的自给自足,但是一旦制程比较先进的,受限制就会比较大。 国产芯片是特别是AI芯片,除了CPU之外,更多是生产ASIC的这种小芯片。现在来看,这些边缘芯片起家的公司依旧是小而美的公司,有自己专注的行业,然后芯片一代一代再往下迭代,然后量产,整体来说做得也还不错。但是大模型背景下,真正到了GPU或GPGPU的时候,真正能做出来的厂家就没几个了。 衡量一个优秀的AI芯片企业有四个方面的核心因素。做GPU芯片难度比ASIC要高出很多。 团队经验是第一要素。不是说拉一帮人,拉一些风投就能把GPGPU或者GPU做出来的,而是说 团队一定要有做过GPU的经验,要有设计、量产及迭代的经验才行。再者,不管上市公司或者初创企业,技术路线绝对不能犯错,这种错误基本上是致命性的,所以内部要团结,技术路线也必须要稳定。 长久的时间成本是第二要素。GPGPU芯片的团队大概需要1000人左右,中间不踩坑,至少也要做两年才能做出一颗芯片,还不是训练推理一体的大芯片,只是推理而已。如果要做大模型训推一体的大芯片,那么至少3年才能把一颗芯片做出来。如果是渲染、训练、推理都放在一起的话,至少3年才能出一个芯片,有可能还不是那么好用,软件还需要花很长的时间去迭代。 人才是第三要素。原来看1000人好像挺多,现在看1000人只是一个低配,连标配都算不上,特别是现在大模型一出来,既需要做训练,也需要做大量的推理,然后还需要堆人去帮客户去调优你的产品,进一步做迭代等等。另一方面,芯片本身这个硬件不需要太多人,芯片定型了之后就按照迭代往下走就可以了