您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [东吴证券]:AI系列深度14期:深度学习如何开启AI第一次爆发? - 发现报告

AI系列深度14期:深度学习如何开启AI第一次爆发?

交运设备 2026-08-05 黄细里 东吴证券 邓轶韬
报告封面

AI系列深度14期:深度学习如何开启AI第一次爆发? 2026年08月05日 证券分析师黄细里执业证书:S0600520010001021-60199793huangxl@dwzq.com.cn 增持(维持) ◼AI第一次爆发的本质,是连接主义路线在数据、算力与可训练深层网络算法共同成熟后的复兴。本篇所称“AI第一次爆发”,主要指2012年前后深度学习由学术突破走向规模化应用的技术周期。不同于传统机器学习依赖人工设计特征,深度学习通过多层向量表示自动学习世界结构;AlexNet在ImageNet上将top-5错误率由约26%降至约15%,成为AI1.0时代由学术验证进入产业扩散的标志性拐点。 ◼我们以“七阶段—三大阶段”复盘深度学习架构演进,并据此建立“学术瓶颈—产品落地”的判断框架:架构通常先经历思想提出与基础架构搭建,再进入训练优化、结构改进、任务扩展,最后转向轻量化部署与复兴性迭代;对应可归并为范式确立、成长扩展、成熟高峰三大阶段。当高引用成果开始向轻量化、部署和复兴性改进集中,同时新增基础架构型突破减少,往往意味着既有架构进入短期学术瓶颈,产业应用窗口反而可能打开。 相关研究 《AI系列深度13期:世界模型如何实现?》2026-08-05 ◼从CNN复盘看,AI1.0的主线是视觉感知能力的规模化成熟。LeNet奠定卷积、权值共享、池化与反向传播的工程组合,AlexNet以深层CNN、GPU、ReLU、Dropout和数据增强形成技术共振,VGG、Inception、ResNet进一步推动网络深度化和结构优化;2017年后,MobileNet、EfficientNet、ConvNeXt等成果更偏向轻量化、部署和现代化回潮,印证CNN在2016—2017年前后进入成熟与高峰阶段。 《AI系列深度12期:从模块化到端到端》2026-08-04 ◼从RNN复盘看,语言序列建模也在同一时间窗口触及递归范式上限。Jordan/Elman确立隐藏状态记忆思想,BPTT奠定训练基础,LSTM/GRU缓解长程依赖,Seq2Seq与Bahdanau Attention推动机器翻译工程化;但串行计算、长距离衰减和固定向量瓶颈限制了规模化扩张。2017年Transformer以自注意力替代循环,正对应RNN成熟后下一代架构切换的历史节点。 ◼我们认为,数字AI底座模型发展路径已逐渐清晰、价值在于确定性,但其难以实现物理世界的建模闭环;我们认为物理AI将成为物理世界的AI解决方案,从而在AI的当前发展阶段成为增量更大的方向,智能驾驶作为最先跑通闭环的代表场景,我们认为应重点关注。 ◼风险提示:技术迭代不及预期的风险,大模型厂商ARR增速放缓的风险,云服务商资本开支不及预期的风险,智能驾驶及机器人商业化落地不及预期的风险。 内容目录 1.复盘AI第一次爆发:深度学习如何开启AI1.0时代....................................................................41.1. AI第一次爆发是传统机器学习到深度学习的跨越.................................................................41.2. 2012年AlexNet发布标志着深度学习第一次爆发.................................................................52. AI1.0时代典型架构复盘.....................................................................................................................62.1. CNN技术发展复盘....................................................................................................................72.2. RNN技术发展复盘..................................................................................................................103. AI第一次爆发的落地局限................................................................................................................134.风险提示............................................................................................................................................13 图表目录 图1:深度学习通用学术成果时间轴...................................................................................................5图2:AlexNet诞生前算法、算力、数据三要素发展时间轴............................................................6图3:CNN关键学术派系与技术演进时间轴.....................................................................................9图4:CNN重要论文——年份与引用量...........................................................................................10图5:RNN关键学术派系与技术演进时间轴...................................................................................12图6:RNN重要论文——年份与引用量...........................................................................................13 表1:传统机器学习与深度学习对比...................................................................................................4表2:深度学习架构发展七阶段与CNN示例....................................................................................7表3:CNN重要节点论文梳理.............................................................................................................8表4:RNN重要节点论文梳理...........................................................................................................11 1.复盘AI第一次爆发:深度学习如何开启AI1.0时代 1.1.AI第一次爆发是传统机器学习到深度学习的跨越 早期人工智能主要沿两条路线演进:一是以逻辑推理和知识表示为核心的符号主义,二是以神经网络和数据驱动学习为核心的连接主义。深度学习的兴起,本质上是连接主义在数据、算力和算法条件成熟后的再度繁荣。传统AI更强调由人类预设符号与规则并据此推理,深度学习则转向让机器从数据中学习高维表示,并在可学习的向量空间中完成推理与判断。 深度学习的核心在于通过多层向量表示学习复杂世界结构,而非依赖人工设计特征。以图像识别为例,传统机器学习通常需要工程师先设计边缘、角点、纹理、形状等特征,再交由分类器识别;深度学习则直接从原始数据中逐层学习表示:底层捕捉边缘,中层学习局部形状与物体部件,高层形成对完整物体的抽象刻画,即表示学习。下表对两者的根本差异进行概括。 因此,深度学习的成功并非单一变量驱动,而是大数据、强计算能力与可训练深层网络算法三项条件同步成熟的结果。 从技术演进脉络看,深度学习体系的成熟并非单点突破,而是多项跨架构底层技术长期迭代的结果。本报告梳理1974—2019年深度学习领域的核心技术成果:反向传播算法奠定端到端训练机制;沿时间反向传播、梯度消失与爆炸问题的系统性论证,以及长程依赖瓶颈的提出,共同刻画了深层网络与循环网络的关键训练难题;随后,LSTM门 控 机制 、无 监督 预训练 范 式、ReLU激 活函数 、Xavier/He参数 初始化 方 法、AdaGrad/Adam/AdamW等优化器、Dropout正则化、Batch/Layer/RMSNorm等归一化技术、注意力机制、ResNet残差连接及Transformer自注意力架构陆续落地,持续改善深层网络的训练效率与收敛表现。上述成果具有较强跨架构适配性,可应用于MLP、CNN、RNN、Transformer等主流网络形态,共同构成深度学习技术体系的公共底座。我们按技术重要性对相关成果进行时间维度梳理。其中,核心成果在2010年后密集出现,为深度学习的规模化爆发与产业应用扩展提供了关键技术支撑。 数据来源:《Learning Representations by Back-Propagating Errors》,《Attention Is All YouNeed》等其他文献,东吴证券研究所 1.2.2012年AlexNet发布标志着深度学习第一次爆发 2012年,AlexNet在涵盖约100万张图像、1000个类别的ImageNet数据集上取得突破,将ILSVRC口径下的top-5错误率由约26%降至约15%,成为深度学习在视觉任务上实现代际跃迁的标志性拐点。此后,CNN快速确立其在图像识别、目标检测、图像分割、人脸识别等主流视觉任务中的核心地位。该性能突破来自算力、算法与训练方法的协同优化,主要体现在四方面:GPU并行训练显著提升算力利用效率,为深层网络规模化训练扫清工程障碍;ReLU激活函数缓解深层网络梯度衰减问题,加快模型收敛;Dropout正则化降低过拟合风险,改善泛化表现;数据增强通过样本形变扩充训练集规模,提升模型鲁棒性。 AlexNet的突破,是算法体系、算力支撑与数据基础长期积累后在2012年形成技术共振的结果。算法层面,反向传播理论(1974/1986)、梯度消失问题系统分析(1991)、无监督预训练范式(2006)、ReLU激活函数(2010)等成果持续迭代,逐步解决深层网络“能否训练”与“训练是否有效”的核心问题;算力层面,GPU算力沿工程化路径持续落地:2004年GPU初步用于神经网络计算,2006年GPU加速CNN卷积运算与CUDA架构发布,确立GPU通用并行计算平台定位,2009年GPU支撑大规模深度无监督学习,2011年快速GPU-CNN方案推出,使深层模型规模化训练具备工程可实现性;数据层面,2009年ImageNet大规模层级化人工标注图像数据库发布,为视觉领域提供统一 的超大规模训练与评测基准。三项要素此前逐步汇聚,并最终共同促成AlexNet引爆深度学习。 2.AI1.0时代典型架