中国端侧大模型行业市场分析报告
摘要
2023年中国端侧大模型市场规模达8亿元,预计2024年将达到21亿元。端侧大模型作为运行在设备端的大规模人工智能模型,凭借其在成本、能耗、可靠性、隐私和个性化方面的优势,正成为AI应用的新蓝海。生成式AI市场的兴起,以及手机与自动驾驶行业的蓬勃发展,正强力拉动端侧大模型市场的扩张。
行业概述
定义与分类
端侧大模型定义为运行在设备端的大规模人工智能模型,与传统的云端大模型相比,参数量更小,可以直接在设备端使用算力进行运行。
发展历程
AI大模型的兴起,模型压缩与优化技术的应用,硬件加速器的出现,以及软件框架的改进,共同推动了端侧大模型的发展。
驱动力
端侧大模型在成本、能耗、可靠性、隐私和个性化方面相比云端推理具有显著优势,适合个性化的AI应用。
市场规模
下游市场需求的强劲增长,特别是手机与自动驾驶行业的蓬勃发展,正强力拉动端侧大模型市场的扩张。
产业链分析
产业链
中国端侧大模型上游主要包括AI芯片供应商、云计算服务商以及数据服务商,中游为端侧大模型科技厂商和端侧科技企业,主要通过设备企业最终应用到汽车、教育等各行各业。
模型压缩技术
知识蒸馏技术能够有效减少模型参数量和计算复杂度,使得复杂的AI模型可在资源受限的端侧设备上高效运行。
成本构成
AI芯片作为加速端侧大模型的关键技术,提供高效计算和能耗比,使得大规模模型在端侧设备上高效运行。研发人员及显卡成本需兼顾,确保研发经济可持续。
厂商类型
端侧大模型厂商主要通过许可费、订阅和定制化服务模式为企业客户、互联网公司和开发者提供智能化解决方案;而终端设备厂商则以硬件销售和增值服务为主,为企业和消费者提供集成端侧大模型的智能设备。
行业场景
行业对数据安全和隐私保护的需求、行业本身智能设备的普及程度以及AI大模型技术的成熟度,共同推动端侧大模型在各行业的应用。
业务场景
AI手机、自动驾驶和机器人成为端侧大模型核心应用场景,分别满足数据隐私性、计算实时性、实时决策和安全性、个性化服务和效率提升等强需求。
行业分析
政策分析
中国政府将人工智能产业视为中国国家战略核心,在端侧大模型方面展现出积极的支持立场,整体政策环境对AI产业及端侧大模型的健康发展表现有利。
行业壁垒
端侧大模型面临的行业壁垒包括技术、硬件、数据、成本以及市场等方面,要求产业界在技术创新、标准制定、生态建设和市场推广等方面进行深入合作。
竞争格局
头部大模型厂商依托其技术实力和生态建设,纷纷投入端侧大模型市场,利用在云端大模型领域的技术优势,商汤商量、阿里通义以及面壁智能率先在端侧大模型领域取得领先突破。未来,技术融合与创新驱动将加剧端侧大模型市场竞争。
发展趋势
未来端侧大模型将在竞争与协作中与云端大模型共同推动AI技术的进步,受手机、自动驾驶和机器人等领域需求的驱动,端侧大模型将不断优化技术,并在个性化、实时响应、隐私保护等方面发挥重要作用。
典型厂商分析
阿里云
阿里云在端侧大模型行业的优势主要体现在高效能、低门槛和自适应性三个方面。
商汤科技
商汤科技在端侧大模型行业的优势主要体现在技术领先与性能卓越、广泛的应用场景与解决方案等方面。
面壁智能
面壁智能在端侧大模型行业具有高效推理能力、创新性整合多模态能力、“以小博大”的性能表现、高效低成本、广泛的设备兼容性以及强大的知识库和逻辑处理能力等优势。