行业研究公司研究宏观策略财报招股书会议纪要 seedance2.0 低空经济 DeepSeek AIGC 大模型

熊昊一- 百度AutoDL：自动化可解释的深度学习

信息技术 2022-05-19 DataFunSummit2022：大数据计算架构峰会李强

深度学习的广泛应用：深度学习技术已广泛应用于物体识别、医学影像检测、自动驾驶、语音助手、机器翻译、广告营销等领域。
典型CNN结构：展示了典型CNN结构的性能和层数，以及ResNet结构示意图。
我们的目标：
- 目标1：端到端深度学习模型自动化设计，包括数据模型、降低AI使用技术门槛、赋能传统行业、提升计算资源利用率、降低企业成本、深度网络的结构及参数优化、特定任务场景的网络定制优化、探索深度网络内部机理。
- 目标2：提高机器学习的可解释性与安全性，解决当前深度学习系统不透明、可能不公平、难以解释的问题。
Baidu AutoDL内容：
- AutoDLDesign：多功能神经架构搜索的算法与模型，通过神经架构搜索（NAS）自动设计网络结构，已在家装风格、鸟类分类、家具分类、牛皮癣分类、车系分类、时尚商品搜索分类、重叠细胞分类等领域取得显著效果。
  - 阶段性成果：在家装风格、鸟类分类、家具分类、牛皮癣分类、车系分类、时尚商品搜索分类、重叠细胞分类等典型客户应用中，AutoDL模型设计效果优于基线效果。
  - 模型设计实例：
    - 视觉风格迁移网络：实现快速逼真的风格迁移。
    - 人像pose生成网络：生成具有特定外观的人像图像。
    - 推荐系统网络推理优化：提升推荐系统的推理速度和成本效益。
    - 模型仓库：提供可下载并使用数行代码即可应用的模型。
- AutoDLTransfer：深层迁移学习算法与预训练模型，包括：
  - 算法与创新：AutoDLTransfer 1.0–DELTA、AutoDLTransfer 2.0、AutoDLTransfer 3.0–RIFLE、AutoDLTransfer 4.0—RGL等。
  - 使用PaddleHub精调：提供以脚本为基础和以编程为基础的方案，方便用户进行模型精调。
  - 通过EasyDL实现基于云的线上专业：提供线上迁移学习服务。
- AutoDLInterpretability：解释训练过程与深度学习模型表现的多特征分析架构，包括：
  - 解释模型：通过不同输入理解模型的输出结果，应用于中文NLP的情感分析。
  - 解释训练过程：通过梯度噪声理解随机训练过程中深度学习的表现，或搜寻错标样本。
  - 通过PaddleX解释模型：PaddleX是世界上第一个具备可解释性的深度学习开源交互IDE。
EasyDL & BML –面向工业应用的AutoDL平台：
- EasyDL：零门槛AI开发平台，提供端到端的全面自动化建模机制，包括数据采集、数据清洗、数据质检、智能标注、算法选择、百度超大规模预训练模型、迁移学习、数据增强、超参搜索、分布式训练加速、场景适配优化、模型评估与诊断、模型转换与适配、模型压缩与加速、模型服务部署、原型测试、数据回流与闭环迭代等功能。
  - 平台机制：极简的用户体验，高精度效果，200+建模与优化机制，端到端全流程自动化。
- EasyDL预置领先预训练模型：通过预训练模型提升训练效率和效果。
- EasyDL自动场景适配优化：提供20+种场景优化功能，如图像分类优化、物体检测优化、数据不平衡优化、小样本优化、背景类干扰优化、过拟合抑制等。
- EasyDL智能归因助力模型调优：提供智能归因分析功能，助力模型调优。
- EasyDL丰富任务场景：涵盖7大方向、18种任务类型，如工业质检、安全生产、智能硬件、零售、快消、互联网等。