AI 时代的半导体产业

为明天的需求而创新 下游行业对半导体供应表示担忧 研究方法快照 目录 组织预计半导体需求激增 半导体行业正在创新， 但软件化仍然是一个挑战 谁应该阅读这份报告， 为什么 ？ Conclusion 合作伙伴关系正在推动行业发展 弹性和可持续性聚集势头 探索大型技术向内部芯片设计的转变 半导体行业如何利用新兴机遇 研究方法 定制化服务，引入更加全面的应用编程接口（APIs）和软件开发工具包（SDKs），同时加强安全功能。因此，三分之一的下游组织正在探索或积极参与自研芯片设计，以实现更高的定制化程度并获得更多对其供应链的控制权。此外，可持续性、供应链韧性以及安全问题将成为未来下游组织的关键关注点。 人工智能的采用正在推动半导体需求的激增 ： 尽管半导体行业组织预测未来两年内半导体产量将增长15%，下游组织（依赖半导体供应来生产产品或服务并运营的企业）预计其对芯片的需求将以更高的增长率29%增长。人工智能（AI）和生成式人工智能（Gen AI）的广泛应用推动了对专门神经处理单元（NPUs）和高性能图形处理单元（GPUs）的需求，这些设备能够高效地处理大量计算和大数据集。此外，下游组织预计在未来一年内对其AI芯片、定制硅芯片和内存密集型芯片的需求将增加。 执行摘要 在 “软件化 ” 挑战中 ， 创新闪耀着 ： 半导体行业在多个领域继续表现出色的创新。尽管各种参与者在特定领域各有突出表现，我们的分析显示，整个行业中一致优先考虑的三种创新类型为： 在需求旺盛的情况下 ， 令人担忧 ： 下游超过一半的组织怀疑半导体行业能够满足他们的需求。这些行业中，包括用于人工智能和机器学习的GPU计算以及推断加速等技术进步对其至关重要，这些行业不断寻求提升自身能力。 • 设计创新：芯片架构的进步，如3D集成电路（IC）设计和多芯片集成，正在推动性能和能效的边界；同时，一半的设计组织正在投资通用人工智能（Gen AI），以缩短设计周期。 延长芯片生命周期，并在不断变化的市场中增强定制化能力，行业发现软件变现面临挑战。 • 制造创新：极紫外（EUV）光刻技术的进步以及向更小工艺节点（即3纳米和2纳米）的转变，使得能够生产出更为强大和高效的芯片。几乎一半的制造商还依赖于人工智能和机器学习来优化生产过程。 关注供应链弹性和可持续性 ： 只有四分之二的半导体组织对供应链的韧性充满信心。企业专注于将供应链迁回本土和“伙伴化”（将供应链建立在地缘政治盟友国家），以增强稳定性并减少对单一地区的依赖。因此，行业预计未来两年内国内采购将提高17%。三分之四（74%）的企业计划增加对美国的投资，而59%的企业将增加对欧盟的投资。 • 包装创新：通过采用3D包装和芯片let（小型集成电路，可以组合成复杂的组件），在不增加物理尺寸的情况下提升了功能性和性能。 执行摘要 硬件安全依然至关重要，涉及大量投资于安全芯片设计、基于硬件的加密以及根凭据（RoT，即加密系统内的受信任来源）等技术。尽管在整合软件和硬件以创建更具适应性和可编程性的半导体解决方案方面取得了稳步进展，但商业化仍面临挑战。 除了继续专注于提高能效外，该行业还通过减少能源消耗、实施水循环再利用系统、使用较少的有毒替代化学品以及减少废物来变得更加环保。 然而，“半导体的软件化”尚未达到行业的预期。尽管这项创新对于半导体公司扩展应用场景至关重要， • 与政府倡议（如研发资助）协调策略，并在行业内生态系统内进行合作以推动共享创新和标准化。 为了利用新兴的机会 ， 半导体组织应该考虑以下几点： • 提高网络安全措施以保护数据完整，采用先进安全技术保护专有技术，并倡导制定更强的知识产权（IP）法律以防止侵权并保护以创新为驱动的竞争优势。 • 利用AI和通用AI自动化设计过程，提高生产效率，并优化性能以满足新兴应用的专业需求。 执行摘要 • 投资前沿的制造技术，如3D芯片堆叠，并加速对先进硅光子集成等新兴领域的研究。 采用开放标准和开源协作 ， 推动半导体创新。 • 在多个地区多元化供应商网络的同时，投资研发替代材料和技术。实施可持续制造实践，如绿色化学，并利用可再生能源来源以最大限度地减少碳足迹。 谁应该阅读这份报告 ， 为什么 ？ 硅、内部芯片设计、可持续性以及供应链动态为将技术采纳与组织目标相结合提供了指导。 这份报告将对半导体生态系统及其下游行业中的决策者具有相关性。具体而言，这将对以下人员有用： 像网络安全、软件化、供应链韧性以及可持续性等话题——使高管能够对其未来策略进行对齐。 通过连接半导体执行官和下游组织的视角，本报告为利益相关者提供了在快速演变的环境中生存所需的知识和策略。 2. 下游行业的领导者 ：专业人士将在汽车、消费电子、零售、电信、航空航天和防务、高科技、医疗设备/医疗电子、工业设备、金融服务以及能源行业等领域获得更深入的理解，了解半导体趋势如何影响这些行业。有关定制 1. 半导体行业高管 ：集成设备制造商、无厂设计公司、晶圆代工厂、组装测试（OSAT）公司、材料和子系统公司以及半导体资本设备制造商将获得对行业趋势的战略视角，包括设计、制造和封装方面的进展。报告还探讨了关键 研究方法快照 特定用途，如图像处理或推断，在货币和资源成本低于通用处理器的情况下实现。ASICs能够在其他情况下不切实际的情况下，使机器学习和其他通常高成本的功能成为可能。ASICs并不总是合适的选择，但值得考虑。 – 一套丰富的可灵活编程的加速引擎，用于卸载并提升AI和ML、零信任安全、电信和存储等领域的应用性能。 De fi nitions • 神经处理单元(NPU) ：1 NPU架构模拟人脑的神经网络。它能够同时处理大量数据，每秒执行数十万亿次操作。与CPU或GPU相比，它消耗更少的电力且效率更高，从而释放出这些资源用于其他任务。将NPU与机器学习（ML）结合使用，可以实现即时、高带宽的实时人工智能。 • 图形处理单元(GPU) ：3 GPU是一种电子电路，能够高速进行数学计算。诸如图形渲染、机器学习（ML）和视频编辑等计算任务需要对大量数据集执行相似的操作。GPU可以同时对多个数据值执行相同的操作，从而提高许多计算密集型任务的处理效率。 • Softwarization:6软件化是指开发一套更为标准化和有限的基础芯片集，通过减少独特的硬件设计数量并利用软件来提供行业特定的功能，从而将“逻辑”从硅转移到软件。这种概念允许根据不同行业和解决方案对这些基础芯片进行定制。 • 数据处理单元 (DPU):2 DPU 是一种 “片上系统 ”(SoC) ， 它结合了 ： • 下游行业 ：尽管几乎所有行业都依赖半导体来生产产品或服务以及运营，本研究的范围包括汽车、消费电子、零售、电信、航空航天和国防、高科技、医疗设备/医疗电子、工业设备、金融服务和能源等领域。 – 一款与其它系统组件紧密耦合的行业标准高性能、软件可编程、多核CPU，– 一款高性能网络接口，能够以线速或至少网络速度解析、处理并高效传输数据至GPU和CPU。 • AI 芯片:4 AI芯片是专门用于开发和部署人工智能系统的计算硬件。AI芯片对于满足更高的处理能力、速度和效率需求至关重要。 • 自定义芯片:5定制或应用特定的 fi 集成电路(ASIC) 芯片设计用于 组织预计半导体需求激增 半导体是数字世界的基础，驱动着智能手机、通用人工智能（Gen AI）、计算机、汽车、卫星以及当今几乎所有的电子设备。2023年，全球半导体销量达到近1万亿颗，是全球人口数量的100多倍。7尽管2023年上半年市场出现周期性的下滑，全年销售额在下半年回升至5270亿美元。8到 2030 年 ， 预计半导体市场规模将超过 1 万亿美元。9 两年来。这一增长的主要驱动力包括复杂电子产品的使用日益增多、电动汽车和自动驾驶汽车的兴起，以及智能技术和高速互联网的发展。数据驱动应用的增长和对节能解决方案的需求也在助力这一趋势的持续。 尽管半导体行业本质上具有周期性，但我们的研究显示，该行业预计到2026年市场需求将增加15%，而下游企业则预期增幅接近30%（见图1）。虽然我们没有要求受访者提供2026年后的预测，但从目前15%的增长率推算，市场总规模可能在2030年达到约9300亿美元，接近之前提到的1万亿美元的估计。半导体行业的谨慎态度反映了尽管有强大的AI驱动需求，汽车市场仍缓慢复苏。 半导体制造商和下游行业预计需求将上升 半导体行业和下游行业预计未来需求将大幅增长 到 2026 年底 ， 下游组织对半导体的需求预计会增加 下游行业预计半导体需求的增长率将是半导体行业预期的两倍。 来源：Capgemini研究 institute，半导体行业调查，2024年11月，受访者总数为190家半导体行业组织（包括集成设备制造商(IDMs)、无厂芯片设计公司和晶圆厂），下游组织受访者总数为800家。 快速的技术进步推动了对更强大、高效且定制化的芯片的需求，促使半导体制造商大幅增加研发投入。我们的研究显示，58%的半导体组织认为5G或其他下一代通信协议正在影响其战略，而56%的组织认为通用人工智能（Gen AI）是一个强有力的影响因素。5G和其他下一代通信协议是支持物联网、自动驾驶车辆、AR/VR和边缘计算等众多新兴技术和市场基础的关键。它们推动了对高性能、高能效和高度集成的先进半导体解决方案的需求。 近三分之二的半导体组织表示，5G（或其他下一代通信协议）和通用人工智能正在影响其战略。 资料来源 ： 凯捷研究院 ， 半导体调查 ， 2024 年 11 月 ， N = 250 个半导体组织。 AI / Gen AI 的采用正在推动 GPU / NPU 需求 内存解决方案例如美光科技的HBM3E（市场上众多产品之一），可以在AI处理过程中优化性能并减少CPU卸载，从而实现更快的训练速度和更高的查询响应性。12 计算引擎和网络子系统增强了吞吐量 ， 无论是在小型还是大型集群中。 ” 高通的NPU专门设计用于承担AI工作负载，是实现设备端生成式AI能力的关键使能器。NPU提供了处理复杂机器学习操作的最佳性能、功耗和空间效率。10 ChatGPT 展示了GPU在AI领域的变革性作用。通过利用成千上万的NVIDIA GPU，其大型语言模型（LLM）的训练和推理过程展示了GPU为AI工作负载带来的无与伦比的效率和可扩展性。这种基础设施支持超过1亿用户的Gen AI服务，突显了GPU技术对AI驱动创新前沿半导体应用的关键贡献。11 A Senior Director at a其中一个关键的进步“ 在我们的研究中，58%的半导体组织表示他们预期随着通用人工智能（Gen AI）采用率的增长，对NPUs的需求将会上升，同时57%的组织预计对高性能芯片的需求将增加，而56%的组织则预计对内存密集型芯片的需求将增加，这表明市场正朝着更先进的处理解决方案转变。 AI和通用人工智能（Gen AI）的应用推动了模型训练和推理能力以及数据中心的需求增长，而设备端AI应用的增长进一步凸显了对专门半导体解决方案的必要性。Applied Materials的AI系统解决方案副总裁Subi Kengeri“AI 时代标志着新的增长浪潮 says, 半导体行业，在人工智能经济价值带来的高投资回报推动下 美国的 IDM 解释说 ，半导体行业通过并行计算实现性能提升，以GPU为例。随着A 稳步发展。对于AI系统而言，关键指标仍然是总拥有成本（TCO），而对于硅材料而言，则是每瓦每美元的性能（Perf/Watt/$）。 I加速器的发展，各种并行化技术，包括专家并行ism、流水线并行ism、张量并行ism和上下文并行ism，正被广泛应用。这些优化和架构创新旨在提高整体吞吐量，无论是用于训练工作负载还是推理工作负载。 为了满足 AI / Gen AI 不断增长的需求 ， 组织正在提高其NPU ，