行业研究公司研究宏观策略财报招股书会议纪要 Token 低空经济十五五 AIGC 大模型

2024高通AI白皮书-让AI触手可及

信息技术 2024-08-20 - 高通静心悟动

核心观点：生成式AI变革已至，AI普惠性需终端侧AI技术实现，AI计算重心正从云端向终端迁移，5G为AI在云端、边缘云和终端侧协同奠定基础。
关键数据：
- 预计到2025年底，全球5G连接规模将达到25亿。
- 预计2024年生成式AI智能手机出货量占比达到11%，到2027年将达到5.5亿部，占比43%，年均复合增长率为49%。
- 高通AI引擎赋能的终端产品出货量已经超过了20亿。
研究结论：
- 生成式AI应用将推动所需算力的实质增长，智能手机有望成为生成式AI发展最快的领域之一。
- 终端侧AI规模化扩展需要异构计算架构，包括AI为中心定制设计的NPU，以及CPU和GPU。
- 高通Hexagon NPU不断演进，能够满足快速变化的AI需求，成为面向终端侧生成式AI大模型推理的领先处理器。
- 混合AI架构在云端和终端侧之间分配并协调AI工作负载，实现更强大、更高效且高度优化的AI。
- 混合AI架构将带来成本、能耗、性能、隐私、安全和个性化优势。
- 终端侧AI能力是赋能混合AI并让生成式AI实现全球规模化扩展的关键。
- 高通技术公司作为终端侧AI领导者，拥有行业领先的硬件和软件解决方案，对推动混合AI规模化扩展独具优势。
- 高通AI软件栈将所有相关的AI软件产品集成在统一的解决方案中，赋能开发者跨不同产品创建、优化和部署AI应用。
- 高通AI引擎包含Hexagon NPU、Adreno GPU、Kryo/CPU、传感器中枢和内存子系统，所有硬件都经过精心设计以实现协同工作。