你好呀,目前AI Agent的端侧落地已经从早期的技术概念阶段,正式走向用户体验的核心环节,整体落地进展可以梳理为以下几个方面:
- 核心落地支撑已经成熟
端侧NPU算力、轻量化模型与端云协同架构的持续突破,让AI推理从云端下沉到手机、IoT等终端成为现实,毫秒级响应、数据本地处理与低功耗运行都已经实现,而端侧本身具备的低延迟、隐私性、低功耗、个性化等优势,也让它成为AI Agent规模化落地的最佳载体 【2】 【7】 。
- 头部厂商的落地动作密集推进
- 国内生态方面,阿里和荣耀的端侧合作已经落地,千问能力深度嵌入终端系统,实现本地AI交互与生态服务调用;OPPO、vivo也在跟进布局,华为、小米则在搭建独立的端侧AI生态 【2】 。
- 海外生态方面,微软为Phi-3系列端侧模型配套了Agents工具,升级后的Microsoft Copilot Studio可以让Copilot+PC调用Windows自带的40多个端侧AI模型,还能构建大量自动化业务流程,支持独立运行完成长期业务流程自动化;苹果也在Apple Intelligence发布会上公布,依托自研的Ferret-UI技术,后续Siri将上线屏幕读取、跨App操作等能力,最终实现串联全生态应用的主动工作流Agent 【4】 。
- 当前主流落地方案已经形成高性价比路径
考虑到端侧模型“性能、参数量、内存及功耗占用”的不可能三角,未来移动端和PC端的端侧AI体验,大多会通过适配器、分类器挑选适配场景的微调小模型,搭配针对特殊需求开发的自定义Agents来实现,不需要调用全量大模型参数,兼顾效果的同时也能控制终端的功耗与成本 【4】 。
- 落地的最终形态已经清晰
AI Agent会成为操作系统级别的“超级APP”:用户不需要分别打开不同独立APP满足各类需求,只需要用自然语言给Agent输入诉求,它就会自动调度各个应用,自主完成订机酒、做攻略、处理办公任务等一系列操作,彻底改变现有的人机交互模式 【1】 。
- 当前仍存在明确的落地阻碍
API开放程度不足,是现阶段制约端侧Agent进一步普及落地的核心因素之一 【1】 。
- 长期最优落地方向已经明确
专业化端侧与全能云端协同是端侧AI的最优解:云端大模型的综合能力始终领先端侧模型一个数量级,端侧Agent负责处理轻量、隐私性要求高的本地任务,复杂任务则交由云端大模型完成,兼顾效率、体验与能力上限 【4】 。