AI变革正在推动终端侧推理创新

摘要

尖端AI推理模型DeepSeek R1的问世标志着AI发展的重要转折点，其性能媲美甚至超越云端大模型，推动了高质量小模型和多模态推理模型在终端侧的应用。四大趋势正推动终端侧AI模型的质量、性能和效率提升：

• 先进的AI小模型已具备卓越性能，模型蒸馏等技术简化开发流程，超越云端大模型。
• 模型参数规模快速缩小，量化和剪枝技术不影响准确性，降低模型复杂度。
• 边缘侧应用丰富化，高质量AI模型普及，支持智能手机等终端的AI功能。
• AI成为新的UI，个性化多模态AI智能体简化交互，实现跨应用任务处理。

高通技术公司在AI训练向大规模推理转型、AI计算处理从云端向边缘侧扩展方面具有战略优势，通过定制CPU、NPU、GPU和低功耗子系统，以及AI软件栈和开发者支持，赋能跨边缘终端的AI应用部署。高通AI Hub支持主流大语言模型和多模态大模型，加速AI推理任务在终端上的部署和优化。

关键数据与趋势

• 2024年发布的大规模AI模型中，超过75%的模型参数在千亿规模以下（Epoch AI数据）。
• DeepSeek R1蒸馏模型在GPQA基准测试中表现优于GPT-4o、Claude 3.5 Sonnet等先进模型。

应用领域

• 手机：骁龙移动平台赋能多模态生成式模型和智能体AI，增强通信、图像编辑、个性化等功能。
• PC：骁龙X系列平台通过定制NPU核心，推动AI PC发展，支持Windows 11 AI+ PC特性。
• 汽车：骁龙®数字底盘™解决方案利用终端侧AI增强汽车安全和驾驶体验，支持自动驾驶和辅助驾驶系统。
• 工业物联网：Qualcomm® AI本地设备解决方案和Qualcomm® AI推理套件，支持智能多语言搜索、定制AI助手等应用。
• 网络：高通®A7 Elite专业联网平台集成Wi-Fi 7和边缘AI，支持安全、能源管理等创新应用。

研究结论

高通技术公司凭借高能效芯片设计、先进AI软件栈和全面开发者支持，引领AI推理时代发展。公司通过跨领域高性能、高能效AI推理，推动AI应用规模化集成，满足实时性能、隐私和效率需求。随着AI创新在边缘侧爆发，高通将持续巩固其领导地位，推动AI应用更广泛、高效地融入日常生活。