2024端侧智能行业发展现状、驱动因素及未来趋势分析报告

4 ❀端侧智能：人与人工智能交互的更优窗口 ❀政策、技术、需求多维共振叠加新品刺激，行业步入发展快车道❀生态效应显著，把握高通、华为两大主线 1端侧智能：人与人工智能交互的更优窗口 语言学习平台端侧智能是指在终端设备一侧进行的智能化处理和决策。它将人工智能算法和计算能力直接部署在边缘设备上，如智能手机、PC、智能家居、可穿戴设备、汽车、工业传感器等，使这些设备能在本地进行数据处理和分析，无需将大量数据传输到云端进行处理。这些终端通过内置的AI算法和硬件支持，实现了语音识别、图像处理、自然语言理解、预测分析等功能，提升用户体验和设备性能。 端侧智能区别于传统AI的关键在于，AI终端采用大模型端侧部署或端侧部署与云端部署相结合的模式，而非完全依赖云端大模型。在AI终端上，云端大模型为端侧提供支持，复杂计算任务可以在云端完成，然后将结果传输到端侧设备。而端侧大模型在本地设备上运行，负责相对简单的任务，实现更快速的响应和更好的隐私保护。 1.1端侧智能的优势 语言学习平台端侧智能依靠技术特性在多方面具备显著优势。增效方面，低延迟使得其在自动驾驶等即时反馈场景作用明显；脱机可用确保在无网络时也能持续提供智能化服务；分布式计算与边缘计算架构结合，实现多设备协同工作，增强系统计算能力。降本方面，节能高效可降低能源消耗，成本效益显著是因为减少了对云端资源的依赖，降低了带宽和存储成本。安全方面，稳定的特性可避免因云端服务波动中断工作流；数据安全能降低数据泄露风险。此外，端侧智能还具有个性化优势，可本地分析用户行为，精准了解需求，提供个性化服务，更好地满足用户独特偏好和需求。 1.2端侧智能当前主要落地场景 1.2端侧智能当前主要落地场景 1.3.1端侧智能行业空间及展望——PC、手机 AI终端具有广阔市场前景。依托PC、手机、可穿戴设备、家居、汽车等多个品类，AI终端在短、中、长期均有增长曲线。 语言学习平台AIPC方面，传统PC渗透率已接近天花板，AIPC带来智能化体验或创造新增长点。IDC预测，AI PC在中国PC市场中新机的装配比例将在未来几年中快速攀升，将于2027年达到85%，成为PC市场主流。随着行业龙头在2024年发布新一代AIPC，2024年AIPC出货量占比将由不足10%跃升过半，成为AI PC爆发元年。 AI手机方面，根据中国报告大厅预测，2024年AI手机的渗透率预计将达到16%，预计2026年AI手机出货量超过4.7亿部，渗透率将达到38%，AI大模型与智能手机结合有望驱动新一轮换机周期，引领行业发展趋势。 资料来源：中国报告大厅，东兴证券研究所 1.3.2端侧智能行业空间及展望——可穿戴设备、家居 语言学习平台AI可穿戴设备方面，预计市场规模将从24年的419亿美元增长至28年的1207亿美元，CAGR达30.3%。预测期的预期增长可以归因于消费者对可穿戴设备的兴趣激增、与智能手机的集成增加、医疗保健应用程序的扩展、远程患者监测的增加、生物识别认证的集成、智能服装解决方案的增长以及老年人护理可穿戴设备的开发。预测期内预计的主要趋势包括灵活显示技术的进步、传感器技术进步、小型化技术创新、与AR的集成、人工智能驱动的可穿戴助手以及5G连接的集成。 AI智能家居方面，2023年全球智能家居市场规模达1238亿美元，预计到2032年市场将达3,456亿美元，CAGR为12.1%。在智能手机日益采用、高速互联网的广泛使用、对能源效率的日益关注和技术进步（如物联网和人工智能的整合）的推动下，市场正在经历稳步增长。 1.3.3端侧智能行业空间及展望——汽车、工业设备 语言学习平台AI汽车方面，根据IDC预测，我国乘用车市场中新能源车市场规模将在2028年超过2,300万辆。随着以比亚迪为首的新能源品牌对产品的布局在更加广泛的价位段全面铺开，以及小米、智界等品牌的强势入局，中国乘用车市场电动、智能化的进程继续稳定推进。随着新能源汽车市场规模的增长，依靠汽车供应链厂商使用AI提高生产力、辅助驾驶与智驾发展等因素， AI工业设备方面，2019年全球制造业人工智能市场规模为81.4亿美元，预计到2032年将达到6951.6亿美元，期间CAGR达37.7%。这一显著增长表明人工智能技术在制造业中的采用不断增加。人工智能技术的进步提高了行业的效率、生产力和决策能力，显著降低人力与管理成本，提升生产效率和生产质量，制造业人工智能渗透率预期短中期内呈指数级上升。当前“工业4.0”概念被逐渐接受，其主张通过信息物理系统实现“智能工厂”，动态配置生产方式，人工智能是实现关键，同时具身智能领域探索逐渐深入，或成为人工智能覆盖制造业全场景的关键技术。亚太地区庞大的制造业将为端侧AI落地提供广阔空间。 资料来源：FortuneBusinessInsights，东兴证券研究所 ❀端侧智能：人与人工智能交互的更优窗口 ❀政策、技术、需求多维共振叠加新品刺激，行业步入发展快车道 ❀生态效应显著，把握高通、华为两大主线 2.1政策端：利好频出，推动行业发展 2.2技术端：处理器、内存、电池、散热、软件等进步助力端侧AI落地 过去，处理器、内存、电池、散热以及软件等因素曾严重限制了端侧智能的发展。处理器性能不足，难以快速处理复杂的智能任务；内存容量有限，无法承载大量数据的运算需求；电池续航能力弱，难以支持长时间的智能运行；散热不佳会导致设备过热降频，影响性能发挥；而软件的不完善也使得智能应用的体验大打折扣。但随着技术的不断进步，主要问题正逐步得到解决。如今，强大的处理器能够高效处理各种任务，大容量内存让数据存储和运算更加从容，新型电池技术提升续航能力、加快充电速度，依托VC均热板、石墨烯散热膜等的散热设计确保设备稳定运行，软件也在不断优化升级，为端侧智能的发展铺平道路。 2.2.1PC技术：NPU异构方案+轻量化模型部署 硬件方面，NPU异构方案为AI PC提供充足算力 软件方面，轻量化模型让本地部署成为可能 异构方案指CPU+NPU+GPU协同运用，提供强劲并行计算能力，以适配本地运行AI的算力需求。 轻量化模型涌现，AIGC应用本地运行成为可能。•传统主流LLM参数量在千亿甚至万亿以上，需要数据中心运 行，强能力伴随高能耗，难以落地端侧部署。•轻量化模型参数量较少(常见如3B，7B)，但经过优化可以完成特定任务，达到低能耗高性能的效果。•端侧AI部署需要轻量化模型。目前轻量化模型已有较为成熟的产品： •NPU是神经网络处理单元，能够快速进行大量矩阵计算，专用于处理神经网络相关任务，如深度学习推断和训练，可作为AI算力的重要来源。 •根据英特尔定义，AIPC需要满足NPU算力大于40TOPS，才能够胜任本地LLM的运行和训练任务。•有厂商表示，大部分AI PC芯片将在今年下半年推出，但搭载新款NPU的笔记本电脑要等到2024年底或2025年初。预计在2025年杀手级应用推出后，将推动软件和硬件性能同步，从而有更大的机会增加AI PC的出货量。 系统级AI应用结合轻量化模型，打造AI PC核心体验。微软Copilot、Apple intelligence等系统级AI应用将会结合大语言 模型创造全新人机交互体验，提供颠覆性的功能。 2.2.2手机技术：头部玩家押注AI，端云结合赋能功能落地 端云结合是AI手机大模型部署的主流解决方案。端侧大模型负责算力要求较低的AI工作，如翻译、图片编辑、本地搜索；头部手机厂商大多选择自研轻量化的本地模型，端侧模型优势点在于低延迟、低成本、信息安全、个性化等，云端大模型负责算力要求高的AI工作，如文生图、视频编辑、在线智慧搜索。手机厂商通常接入参数量巨大的云端大模型，云端模型优势点在于功能强大、算力高，通过端云结合，根据任务要求分配端侧/云端大模型，达到速度与性能相对平衡 •骁龙8Gen3搭载的NPU性能较上代提升98%，算力达到45TOPS，SoC总算力达到73TOPS•支持100亿参数大模型联发科：天玑9300 •支持330亿参数大模型•支持端侧LoRA•内存硬件压缩技术•浮点数算力是上代两倍APPLE：A17 pro 2.2.3可穿戴设备技术：创新交互方式，提升设备价值量 AI赋能可穿戴设备，技术创新贡献强劲增长动力。AI技术的发展带来可穿戴设备的全新交互方式，例如Meta与雷朋合作开发的智能眼镜通过“AI+AR”技术，使用户实现与周围环境的实时交互。同时随着芯片制程进一步精进、能耗降低，AI模型可在体积较小的手表、戒指、吊坠等领域进行部署。助手、通知、健康分析等陪伴类功能丰富了配饰使用场景，提升了设备价值量，助推品类渗透与相应市场的发展。 2.2.4智能家居技术：提升系统性与灵活性 智能家居市场受到人工智能与物联网技术催化焕发新活力。在传统智能家居时代，智能家居以单品的形式出现为主，此时的智能家居从单品层面有一定的智能性，但是没有形成系统的智能，个性化程度、灵活性不高。但随着人工智能与物联网技术的进步，行业逐步进入AI智能家居时代。AI家居以系统的形式出现为主，通过物联网技术和AI本地部署，实现全部智能家居的统筹配合，达到1+1>2的效果。 2.2.5智能汽车技术：汽车具备充足算力，大模型催化AI功能部署 软件：车厂与科技公司发力车端AI大模型 硬件：智能汽车搭载高算力芯片 •随着新能源汽车对智能化的要求不断提高，将AI大模型接入整车已经成为行业趋势•车厂与科技公司均发力自研AI大模型，以期提高智能化水平 •随着智能驾驶水平的提高，对算力的要求不断增长；如L5级别的自动驾驶最低算力要求为500TOPS。•芯片厂商生产高算力车规芯片，可用于自动驾驶与AI应用，车企推出装配高算力芯片的智能汽车。•新能源车企高端产品线存在一定的算力冗余 资料来源：小鹏、汽车之心、车家号、蓝鲸财经、东兴证券研究所 2.2.6工业设备技术：计算机视觉与自然语言处理是两大核心 自然语言处理促进工业AI更好融入生产与管理 计算机视觉赋予工业AI观察、检测能力 •自然语言处理(NLP)使用机器学习使计算机能够理解人类语言并与人类交流，应用场景广泛•工业AI受益于NLP技术进步，可以更好融入生产与管理1）监控、控制生产过程，进行生产规划2）感知能源使用量、员工工时、机器运转数量及效率3）作为生成式AI提供生产管理建议4）作为客户服务助理减少前台人力成本 •计算机视觉（Computer Vision）指让计算机和系统能够从图像、视频和其他视觉输入中获取有意义的信息，并根据该信息采取行动或提供建议•工业AI受益于CV技术进步，可以更好的执行工业场景任务1）认知工厂环境，在工厂中移动，与操作对象进行物理互动2）检测并识别产品缺陷，防止瑕疵品流入市场，提高良品率3）收集工厂信息，为ERP系统提供信息流，提高生产效率 图：人工智能有望在软件、硬件两方面渗透制造业 计算机视觉赋予工业AI观察、检测能力硬件层面•硬件方面有望保持较高的市场规模。AI硬件由处理器（通常是GPU）、逻辑电路等组成，运行人工智能软件。人工智能需要独特的处理单元（如NPU等），增加对硬件的需求。且人工智能相关硬件价值量较高，工业AI需求增加有望带来AI硬件量价双升 •人工智能服务或将呈指数级增长。人工智能的高度变化的发展和部署正在为人工智能服务创造巨大的机遇。人工智能服务提供集成各种人工智能和认知解决方案和工具来提供服务。随着硬件算力逐渐满足应用层要求，相关软件适配将会成为满足工业定制化要求的刚需 2.3行业催化：苹果、华为、Meta新动作提振市场情绪 •6月11日，苹果召开WWDC 2024，发布“Apple Intelligence”，苹果走自研本地大模型加云端的策略，本地模型基于苹果强大的M系列芯片，超出本地处理能力的问题可以借助云端大模型解决，也可以利用OpenAI的GPT-4o。 •9月10日，苹果召开新品发布会，发布iPhone16系列，硬件方面iP