标题:《生成式人工智能对半导体行业的下一条S曲线》
在生成式人工智能(gen AI)应用如ChatGPT和Sora在全球范围内大行其道之际,半导体行业面临着前所未有的需求增长,这推动了行业加速创新,生产出更高效、更强大的芯片。本文由Ondrej Burkacky、Mark Patel、Klaus Pototzky、Diana Tang、Rutger Vrijen和Wendy Zhu共同撰写,代表了麦肯锡半导体实践部门的观点。
随着对计算能力的需求激增,半导体行业正面临新的发展曲线。对于高管们来说,关键问题在于行业是否能够跟上这一需求。领导者正在通过增加数据中心和半导体制造厂(fabs)的资本支出,并同时探索芯片设计、材料和架构方面的进步,以应对不断变化的业务环境。
为指导半导体行业的转型阶段,作者构建了几种gen AI在B2B和B2C市场中的影响情景。这些情景都涉及到巨大的计算量增长——因此是晶圆需求的增长。虽然开发的场景范围从较为乐观的情况到更为雄心勃勃的情况都是可能的,但对所需晶圆厂数量以及数据中心所需的能源供应的影响,将使它们成为不太可能的情况。
文章讨论了高性能组件(如逻辑、内存、数据存储芯片)的晶圆需求估算,以及为满足这些需求所需晶圆厂的数量。有了这些信息,行业利益相关者可以战略性地规划和分配资源,以应对计算力需求的快速增长,确保其运营在未来几年的可扩展性和可持续性。
生成式人工智能需求的关键组成部分
- B2C与B2B应用场景:在B2C和B2B市场中,gen AI的需求分为训练和推理两大阶段。训练通常需要大量数据和计算资源,而推理则通常对每次用例的计算需求较低。
六类B2B应用场景与工作负载:
- 编码与软件开发应用:解释和生成代码
- 创意内容生成应用:撰写文档和通信(例如,生成营销材料)
- 客户参与应用:涵盖自动客户服务,包括接触、查询和数据收集(例如,通过聊天机器人处理客户查询)
- 创新应用:为研发过程生成产品和材料(例如,设计候选药物分子)
- 简洁应用(简单与复杂):分别用于结构化数据集和未结构化或大型数据集的汇总和提取见解(例如,从MRI或CT扫描中合成发现)
B2B应用价值创造与成本分析:
麦肯锡分析了六类不同的B2B应用场景及其服务成本和gen AI价值创造之间的关系。通过定义服务成本和价值创造,决策者可以更熟练地了解B2B应用的具体情况,并在采用它们时做出明智的选择。分析包括训练、微调和推理成本,以及超大规模计算平台的基础设施即服务(IaaS)边际利润,涵盖了硬件、服务器部件、IT基础设施、电力消耗和估计的人才成本。gen AI价值创造通过提高生产力和劳动成本节省等指标来衡量。
需求情景预测:
- 基础情景:基于一系列假设,如技术持续进步和快速采用,以及覆盖gen AI训练和推理的商业模式,预计到2030年总gen AI计算需求可能达到25×10^30 FLOPs(浮点操作),其中约70%来自B2C应用,30%来自B2B应用。
- 保守和加速情景:分别代表采用上限和下限,考虑到gen AI采用和技术创新的经济因素。
B2C计算需求情景:
B2C计算需求由用户与gen AI的互动频率、用户基数及其计算影响驱动。具体而言,B2C推理工作负载取决于每个用户的gen AI交互次数、用户基数和基本和高级交互的FLOPs。训练工作负载取决于每年的训练运行次数、gen AI模型供应商的数量和不同gen AI模型的每轮训练运行的FLOPs(例如,最先进的状态)。
通过以上分析,我们可以看出生成式人工智能对半导体行业的影响深远,不仅推动了需求增长,也促使行业进行技术创新以满足不断变化的需求。