端侧AI加速推进与应用前景分析
核心要点:
- 芯片与模组创新:高通与联发科推出支持端侧AI大模型运行的芯片新品,如骁龙8 Gen3、天玑9300等,强化了AI性能。
- 软件优化:中科创达等软件厂商通过模型压缩、分布式与张量并行技术优化端侧大模型运行,实现了大规模参数模型的稳定运行。
- 终端应用加速:联想、小米、vivo等终端厂商发布AI PC、AI手机等产品,支持AI大模型本地运行,展现终端应用潜力。
- 投资建议:重点关注算力模组与芯片领域,推荐关注移远通信、广和通、瑞芯微等公司。
详细分析:
芯片与模组创新
- 高通与联发科:高通推出骁龙8 Gen3与PC芯片骁龙X Elite,强调AI性能提升,支持大规模参数模型的端侧运行。联发科发布天玑9300,集成高效AI处理器,支持各类AI大模型运行。
- AI芯片特性:天玑9300的APU790内置生成式AI引擎,支持Transformer模型加速,实现快速图像生成。Intel宣布启动AIPC加速计划,计划于2025年前为超过1亿台PC提供AI特性支持。
软件优化
- 模型优化:通过模型压缩技术(如量化、剪枝、知识蒸馏)实现大模型的精简,以及软件端优化算法的运用,使得大模型能够在端侧设备上稳定运行。
- 实例展示:中科创达利用模型压缩与技术优化,在高通8系列芯片平台上实现了LLaMA-2130亿参数模型的稳定运行。
终端应用加速
- AI PC与AI手机:联想发布首款AIPC,展示AI PC、AI工作站等产品组合,旨在提升用户体验。小米与vivo分别推出了支持AI大模型的手机与操作系统,实现AI功能的本地运行。
- AIPin发布:Humane公司发布的AIPin作为可穿戴终端设备,内置OpenAI,支持多种个性化服务,展现AI走入日常应用的趋势。
投资建议与风险提示
- 投资机会:端侧AI应用加速,建议关注算力模组与算力芯片等产业链环节,推荐关注移远通信、广和通、瑞芯微等公司。
- 风险提示:端侧AI应用可能面临预期不及、技术研发挑战、新产品市场推广不畅等风险。
综上所述,端侧AI正加速推进,涉及芯片、模组、软件与终端等多个环节的创新与合作,展现出广阔的应用前景与投资机遇。然而,其发展仍面临一定的不确定性与挑战,投资者需关注市场动态与技术进展,以做出合理决策。