摘要
随着大模型和智能体技术的发展,未来越来越多的工作将被基于大模型的智能体所取代。由于大模型对数据和算力的需求巨大,资源受限的终端将难以满足模型训练和推理的需求,而未来6G网络存在大量低时延需求的价值场景,云端大模型难以满足这些场景用户的需求。因此,向无线网络寻求算力和数据的支撑将成为大模型时代的必然。本文介绍了大模型时代下网络使能人工智能技术的需求和驱动力,详细阐述了未来6G网络能为大模型提供的AI服务,包括数据感知、分布式训练、指令优化、端边云协同推理和模型优化等,通过案例分析说明了相关技术的实践应用,并总结了未来可能的研究方向和所需要面对的挑战。
一、AI大模型发展概述
(一)发展历程
AI大模型的发展历程主要可以分为四个阶段:传统模型(1950-1980)、神经网络模型(1980-2017)、Transformer模型(2017-2018)和现代AI大模型(2018至今)。目前各类大模型正持续涌现,性能也在不断提升。
(二)发展趋势
AI大模型的发展趋势主要包括:多模态能力提升,应用场景范围扩大;模型轻量化部署,资源需求成本降低;外部工具相结合,交互方式更加智能。
二、网络使能大模型的需求和驱动力
(一)未来6G网络的通算智融合趋势
人工智能已成为新一轮产业升级的核心驱动力,许多高价值的AI场景需要网络这一AI服务基础设施进行支持。随着大模型技术在上述场景中的深入应用,终端对于网络侧算力和数据资源支撑的需求将进一步扩大。ITU将6G场景扩展到包括通信与AI融合在内的智慧泛在,需要将AI打造成6G通信网络的新能力和新服务,实现AI即服务(AIasaservice,AIaaS)。
(二)网络使能大模型价值场景
网络使能大模型的价值场景包括:AI手机、自动驾驶、智能医疗、工业4.0和工业元宇宙。这些场景都需要网络提供算力和数据资源支撑,以满足低时延、高可靠性和隐私性等需求。
三、网络使能大模型服务
(一)数据感知服务
在6G网络中,传感设备所收集的数据将满足大模型训练和推断的需求,成为大型模型训练和推断的重要数据源。
(二)分布式训练服务
分布式机器学习是处理大规模数据集和复杂模型的有效手段。分布式机器学习平台包括基于数据流模型、基于参数服务器和基于混合模型。分布式机器学习算法设计需要考虑在平台上的执行效果,主要包括数据分割和预处理、计算负载平衡、扩展性和可维护性考虑,以及通信成本和一致性问题。分布式训练框架包括并行计算和智能调度,其中并行计算主要方法为数据并行和模型并行。联邦学习是一种实现网络使能大模型分布式训练的隐私保护范例。联邦大模型通过多节点集群进行分布式训练,突破单个硬件内存容量和带宽的限制,支撑更大规模模型的训练。
(三)指令优化服务
指令优化是提高大模型整体泛化性能的有效技术。结构化提示和人类反馈的强化学习(RLHF)是两种常用的指令优化方法。需要设计适用于网络的高效结构化提示优化方案和基于RLHF的指令优化方案。
(四)端边云协同推理服务
端边云协同推理服务通过智能的任务分配和优化机制,实现了服务的高效性、定制化和安全性。网络需要具备的能力包括设计标准化的智能协作框架,支持协作服务的各类操作类型,对端边云协同推理进行统一管理和配置。面向AIAgent的端边云协同方案通过在网络边缘部署与终端大模型进行协同推理的模块来保证推理性能,避免了复杂度高的分割点寻找算法,并具有一定的抗干扰能力。
(五)模型优化服务
本文提出了一种面向AI大模型的优化服务,通过在基站端部署性能监控和算力检查模块,实时监控模型性能和网络剩余算力资源,在模型性能下降时灵活利用网络或者云端算力重新训练模型,通过引入AI编排模块来针对不同任务统一调度网络资源。
四、案例分析
生成式AI在语义通信系统中的应用
生成式AI大模型驱动的语义通信系统将生成式AI模型与语义通信相结合,整合了生成式AI的广泛认知能力和语义通信的高效语义信息传输。该系统在传输300张1024x1024像素的图像时,仅需要3.03×104比特,相较于其他两种方法减少了比特数,同时还能保持较高的图像传输质量。
五、未来展望
AIAgent将有望颠覆传统的通信模式,引领一场前所未有的变革。需要设计出与之相匹配的架构和协议,以确保智能体能够在复杂的网络环境中高效、稳定地运行。网络数字孪生作为解决AI概率性和网络高可靠性之间矛盾的主要途径,正逐渐受到业界的广泛关注。从端到端的视角来看,我们需要体系化地设计面向智能体的网络架构、安全可信机制及通信组网机制。