电子行业深度报告：端侧AI：模型创新快速迭代，看好苹果引领AI硬件起飞

核心观点

• 端侧AI发展迅速：端侧AI市场规模预计2023-2028年CAGR高达58%，2028年超过1.9万亿元。消费级终端设备如智能手机和PC的AI化将推动行业高速发展。
• 模型创新快速迭代：小模型技术创新大于参数量提升，量化、剪枝、蒸馏等技术被广泛使用。Agent架构的出现对模型提出了新的要求，Transformer架构成为关键。
• 硬件升级是关键：内存是端侧硬件AI推理能力的短板，苹果在内存、电池、散热方面有较大提升空间，并积极进行内存结构、耗能、传输速度等方面的创新。
• 多模态UI交互界面革命：Transformer架构下，GUI交互有望成为主流，苹果的Ferret-UI和谷歌的Screen AI模型均采用读屏AI视觉语言模型，采用统一编码方式理解屏幕信息。

关键数据

• 端侧AI市场规模：2023年中国端侧AI市场规模不到2000亿，预计2028年超过1.9万亿，2023-2028年CAGR为58%。
• 小模型性能：Gemma2在规模相当的情况下，各类测试机的表现大幅提升，MMLU提升约10pct，GSM8K表现提升9pct。
• 参数量影响：参数对模型表现影响巨大，1.8B参数的Nano 1全面弱于Nano 2。
• 内存占用：半精度的7B模型仅参数加载占用DRAM就超过14GB。
• 能耗对比：在相同精度下，DRAM耗能比SRAM耗能高两个数量级（640：5），比计算耗能高更多。

研究结论

• 端侧AI将革新人机交互方式，模型创新和硬件升级是推动行业发展的关键。
• 苹果在内存、电池、散热等方面有较大提升空间，并积极进行内存结构、耗能、传输速度等方面的创新，有望引领AI硬件起飞。
• 多模态UI交互界面革命将为Agent带来历史机遇，GUI交互有望成为主流。