2025年万物AI面临的十大待解难题

2025年万物AI面临的十大待解难题 评级：强于大市 长城证券产业金融研究院科技首席：唐泓翼执业证书编号：S10705211200012024年12月09日 目录 一、AI终端需求端侧问题 ●AI服务器：scalinglaw结束了吗？●AI终端：万物+AI能否崛起？●AI机器人：人型机器人启动? 二、AI上游芯片需求问题 ●AI产能：AI大芯片带动需求激增，先进制程/先进封装产能仍供不应求？●AI存储：AI大芯片未来将强劲推动HBM扩产需求，NAND存储需求持续升级？●AI互联：AI大芯片的互联困境，未来趋势将是“光进铜退”？●AI散热：AI大芯片功耗提升，散热终将由风冷向液冷演进？ 三、AI发展外部约束问题 ●AI能源：能源吞噬巨兽？●AI燃料：高质量的数据快要耗尽了？ 四、AI终极问题 ●AI终极：该怎么面对凡人？ 五、投资建议及风险提示： ●端侧AI一触即发，拥抱第四次工业革命，关注AI产业链相关公司 ●手机和PC需求温和复苏，看好“困境反转&龙头低估”企业●风险提示：下游需求不足风险；地缘政治风险；核心竞争力风险；估值风险等。 一、AI终端需求端侧问题 AI服务器：scaling law结束了吗？ 数据来源：arxiv.org，Medium，GitHub，arXiv，CSDN，长城证券产业金融研究院 AI终端：万物+AI能否崛起？ ➢AI Agent崛起：11月20日，微软在Microsoft ignite 2024上全面推出商用AIAgents生态系统，企业用户可通过Azure AI目录访问超过1800个AI模型，用于支持各类AIAgent的部署和运行。据Gartner预测，到2028年，至少15%的日常工作决策将通过AI Agent自主做出。据marketsandmarkets预测，到2028年，全球 自 主 人 工 智 能 和 自 主 智 能 体 市 场 规 模 将 达285亿 美 元，预 计23-28年CAGR~43%。 ➢AI手机：据IDC预测，2024年全球AI手机出货量将达2.34亿部，预计到28年将达9.12亿部，23-28年CAGR~78.4%。 ➢AIPC：据Canalys预测，2024年全球AIPC出货量将达0.48亿台，预计到28年AIPC出货量将达2.05亿台，24~28年CAGR~44%。 ➢AI耳机：10月10日，字节跳动豆包发布首款AI智能体耳机OlaFriend，耳机接入豆包大模型，与豆包APP深度结合。 Perception：感知模块的核心目的是将代理的感知空间从纯文本领域扩展到包括文本、听觉和视觉模态。 Brain：主要由1个大型语言模型组成，它不仅存储知识和记忆，还承担着信息处理和决策功能，并能呈现推理和规划过程以很好地处理未知任务。 Action：在代理的构造中，动作模块接收大脑模块发送的动作序列，并执行与环境交互的动作。 二、AI上游芯片需求问题 AI产能：AI大芯片带动需求激增，先进制程/先进封装产能仍供不应求？ 先进制程：预计25H1台积电3nm/5nm产能利用率将达100%/101% 先进封装：预计25年台积电CoWoS月产能有望达8万片 ➢先进封装：受AI芯片大面积需求带动，2.5D先进封装于2023至2024年供不应求情况明显，据TrendForce预估，2025年晶圆代工厂配套提供的2.5D封装营收将年增120%以上。工研院产业科技国际策略发展所预测，到2025年全球先进封装市场规模比重将达到51%，首次超过传统封装，预计到2028年，先进封装市场年复合增长率可达10.9%。 ➢先进制程：据TrendForce预估，2025年全球晶圆代工业产值将迎来20%的成长，台积电表现仍将一支独秀，其余晶圆代工厂也可望有近12%的年成长；受AI服务器相关芯片需求推动下，先进制程高产能利用率有望延续至2025年。 ➢据台积电24Q3业绩交流会上表示，AI技术的迅速发展是推动业绩增长的关键因素之一，尤其是针对3nm和5nm等先进制程芯片的需求激增，来自主要客户如苹果和英伟达的订单持续增加。从产品制程营收占比看，公司24Q37nm及以下先进制程营收占比达69%，其中5nm制程营收占比为32%，7nm制程占比为17%，而得益于苹果A18系列处理器的强劲出货量，3nm制程营收占比提升至20%。据台媒《工商时报》报道，25H1台积电3nm产能利用率维持满载；在AI芯片助攻下，25H1台积电5nm产能利用率可能达到101%。 ➢台积电董事长魏哲家在法人说明会上表示，客户对先进封装的需求远大于供应，预计25年CoWoS产能将持续倍增。据Money DJ数据，台积电CoWoS月产能预计24年将达到3.5~4万片晶圆，明年将飙升至每月8万片。AI客户强劲而紧迫的需求继续推动产能需求，随着更多设备的增加，台积电的CoWoS产能仍可能大幅扩张，到2026年可能达到每月1.4~1.5万片晶圆。 AI存储：AI大芯片未来将强劲推动HBM扩产需求，NAND存储需求持续升级？ HBM：AI强劲需求带动下，25年全球HBM市场将达199亿美元 NAND：AI浪潮推动下，预计25年全球NAND市场将达870亿美元 ➢AI驱动HBM需求容量增长：AI服务器强劲需求带动下，TrendForce预计2025年HBM位元需求量将同比增长117%。 ➢AI驱动NAND单机需求容量增长：受益AI需求驱动，TrendForce预计2025年手机/笔电/服务器上单机需求SSD容量将同比+13.3%/+4.4%/+14.4.%。 ➢NAND市场需求：据TrendForce预测，到2025年，预计全球NAND位元需求量将同比+13.4%；预计全球NAND Flash市场规模将同比+29%至870亿美元。 ➢HBM市场需求：据Yole预测，到2025年，预计全球HBM位元出货量将达16.96亿GB，预计全球HBM市场规模将达199亿美元。 ➢HBM当前进展：11月5日，在SKAISummit2024上，SK海力士发布业界首款16层堆叠(16Hi)的HBM3E内存(容量为48GB)，其AI训练性能和推理性能分别提升18%和32%，预计将于2025年初提供样品。SK海力士还计划25H2将推出首批12HiHBM4，2026年将推出16HiHBM4。 ➢NAND当前进展：9月12日，三星宣布已量产1Tb QLC第9代V-NAND，据TechInsights数据，三星计划25H2推出430层第10代V-NAND；11月21日，SK海力士宣布开发出业界首款321层1TBTLCNAND闪存，将于25H1开始供应。 数据来源：TrendForce，Yole，SK海力士，三星，AMD，TechInsights，Enterprise Storage Forum，芯智讯，电子工程专辑，36氪，长城证券产业金融研究院 AI互联：AI大芯片的互联困境，未来趋势将是“光进铜退”？ PCB连接：预计28年市场规模达138亿美元 铜连接：预计28年市场规模达28亿美元 光连接：预计27年市场规模逾200亿美元 ➢铜连接趋势：英伟达于3月发布GB200系列机架，其中背板连接、近芯片连接及机柜间I/O连接均用到铜连接方案。除英伟达外，高速铜互联在AI短距离场景已有成熟经验，dojo/谷歌等均使用定制铜缆或DAC&AEC作为短距互联方案。在短距场景下，高速铜连接相较光纤连接具有性价比、稳定性、功耗优势，正成为AI集群短距传输优选方案。 ➢PCB连接趋势：英伟达对服务器规格的提升，使得PCB和HDI零部件的需求进一步增加，新规格产品需要更多高端HDI产品来加快运算和连接速度。 ➢光模块、光芯片连接趋势：据LightCounting，高性能计算对网络速率的需求是目前的10倍以上，CPO能将现有可插拔光模块架构的功耗降低50%，并有效减少尺寸，有望成为未来主流。 ➢市场规模：据Prismark数据，预计2028年全球服务器及存储用PCB市场规模约为138亿美元，2023-2028年CAGR约11%，随着AI服务器升级，GPU主板将逐步升级为HDI，据Prismark预计，2023-2028年HDI的CAGR将达到16.3%，是增速最快的品类。 ➢市场规模：根据Lightcounting预测，光模块的全 球 市 场 规 模 在2022-2027年 或 将 以CAGR~11%保持增长，2027年有望突破200亿美元。根据Lightcounting和Coherent预测，全球数通光模块市场23年-28年的CARG为18%，其中，AI用数通光模块市场CAGR为47%。 ➢市场规模：据Lightcounting数据，预计2028年全球高速电缆市场规模将达28亿美元。 AI散热：AI大芯片功耗提升，散热终将由风冷向液冷演进？ 风冷：预计28年风冷市场规模将达85亿美元 液冷：预计28年液冷市场规模将达35亿美元，渗透率持续提升 ➢液冷散热：据《数据中心液冷解决方案》白皮书，当机架密度达到20kW以上时，风冷效率减弱，需要采用液冷技术满足高热密度机柜的散热需求(以英伟达新推出的GB200 NVL72机柜方案为例，其热设计功耗高达约140kW)。据浪潮信息，液冷PUE约近1.1，具备较高能效优势。液冷方案优势主要有：安静，降温效率更高，功耗更低；但其约束在于成本高，维护困难。 ➢风冷散热：据兰洋科技官网，风冷系统中，风机转速从1000r/min提高到4000r/min，芯片散热中对流占主导，流速增加对流换热系数显著增加，风冷方式能有效改善芯片散热问题。据浪潮信息，传统风冷数据中心PUE(PUE=数据中心总能耗/IT设备能耗，PUE越接近1表示能效越高)约1.4-1.5。风冷方案优势主要有：成本低，维护方便，应用时间长，技术成熟；但存在噪音、有功率限制。 ➢液冷市场规模：据TrendForce预估，2025年随着GB200机柜方案正式放量出货，将带动AI芯片液冷散热渗透率，从24年的11%提升至25年的24%。据Dell'OroGroup数据，2028年液冷规模将达35亿美元，占热管理支出的近1/3。 ➢风冷市场规模：据Dell‘Oro Group数据，2028年数据中心热管理市场规模(风冷+液冷)将达120亿美元，23-28年CAGR为14%，风冷规模将达85亿美元。 技术路径：从能效角度，相较风冷，液冷散热的PUE值更能逐渐趋近于1 数据来源：Omdia，TrendForce，Dell‘OroGroup，浪潮信息，英伟达，戴尔，Kingston，兰洋科技，IT之家，艾邦储能网，产业在线，长城证券产业金融研究院 三、AI发展外部约束问题 AI能源：能源吞噬巨兽？ AI能源吞噬巨兽 可再生能源的利用，提供重要能源增量 ➢AI数据中心吞噬能源：AI模型的训练和运行需要大量的计算资源。例如，OpenAI的GPT-4模型训练需要2.5万张a100，消耗约5.1~6.2万MWh的电力，相当于1万个普通家庭五年的用电量(按一户普通人家庭一年用电1000KWh算)。而ChatGPT在生成一幅图像所需的电量几乎与一部智能手机所有电量相当。 ➢核能的利用：核能作为一种低碳能源，也在被考虑用于满足AI的能源需求。 ➢可再生能源的利用：许多国家和企业开始转向可再生能源。例如，青海省利用其丰富的绿色电力资源，包括光电、风电、水电等，实现了数据中心的100%清洁能源供应。 ➢全球电力需求暴增：国际能源署(IEA)预测，到2026年，AI、数据中心和加密货币的电力消费可能达到2022年水平的两倍以上，预计将增加540太瓦时(TWh)至1000TWh。 AI燃料：高质量的数据快要耗尽了？ 数据墙显现，数据需求指数远超供给增速，新数据源急需拓展 数据需求量指数增长 数据墙显现 新数据获取方式 高质量数据源 ✓2018年GPT-1数据集约4.6GB,✓20