网络大模型十大问题白皮书

1网络大模型十大问题白皮书6GANASIG22023.12.21 2摘要作为6G的研究热点，网络与AI被ITU-R正式提出作为6G的6大场景之一。其一直以来受到学术和工业界的广泛关注，6GANA也提出了网络AI的理念并展开了深入的研究。而随着大模型的兴起以及其在各行业表现出来的强大潜力，可以预见到大模型也将在6G网络中扮演重要的角色，相关的研究也将逐渐进入高发期。本白皮书将首先对网络大模型（NetGPT）给出明确的定义，随后从基础理论、场景需求、网络架构、部署管控、数据治理等方面系统阐述NetGPT的10大重点研究问题，分析潜在的研究路线，希望能够为后续的NetGPT的相关工作指引方向。 3目录摘要.................................................................................................................................................21.背景..........................................................................................................................................42.网络大模型的定义....................................................................................................................43.十大基础问题...........................................................................................................................53.1NetGPT场景和需求问题.......................................................................................................63.2NetGPT的基础理论问题.......................................................................................................73.3NetGPT的极致性能要求问题...............................................................................................93.4NetGPT间的协同问题........................................................................................................103.5NetGPT的原生分布式部署问题..........................................................................................123.6NetGPT的网络架构设计问题.............................................................................................133.7NetGPT的安全隐私问题.....................................................................................................143.8NetGPT的数据服务问题.....................................................................................................163.9NetGPT的评判体系与方法问题..........................................................................................163.10NetGPT的全生命周期管控和编排问题.............................................................................184.总结与展望.............................................................................................................................20 41.背景ITU-RWP5D第44次会议正式通过了《IMT面向2030及未来发展的框架和总体目标建议书》,作为6G研究的一个重要的里程碑，代表了全球的6G愿景共识，其中AI与通信融合被作为6大关键场景之一，与6GANA提出的NetworkAI理念不谋而合。随着大模型的颠覆性发展，AI在自然语言处理、计算机视觉、语音识别等领域的任务处理能力得到了极大的突破。特别是大语言模型，如ChatGpt，能够准确识别并理解用户的意图，为用户提供问题，生成文本等，并在结合多模态技术后不断向更多领域拓展。可以预计，大模型将会成为AI通信融合的关键组成部分。在提高网络中AI的通用性和多任务处理能力等方面发挥重要作用。然而我们需要意识到，大模型与AI在应用上是有着很大不同的。在以往AI模型的使用上，是通过收集大量的数据然后从头训练模型，因此需要关注是如何针对具体任务设计模型结构、网络如何收集需要的数据，网络如何为AI模型的训练推理提供算力和算法支撑等。大模型在应用上，是以预训练基础模型为底座，通过各种策略，如prompt，fine-tune以及向量库等方式来适配各类具体任务。另外，大模型意图理解和涌现能力，也给大模型的应用带来了更多的可能性，例如可以实现基于意图的编排，调用各种工具实现具体任务等。同时，大模型的巨大参数量和算力需求，也为其在网络中的应用带来了新的挑战。为此，我们需要重新梳理大模型和网络结合这个领域中的关键问题，为后续的研究指明方向。2.网络大模型的定义大模型将在运维、执行、验证等方面为移动网络服务。通过整合通信知识，大模型可以帮助检测故障和生成解决方案。随着网络服务的多样性和复杂性，大模型可以用来编排和调度任务流程，还可以进行性能优化、环境预测、资源分配等。通过出色的生成能力，大型模型有望在验证阶段发挥重要作用，如室外复杂环境的通道生成、高铁场景模拟等。因此，我们将无线通信网络中使用的大模型定义为网络大模型（NetGPT）。由于无线通信网络包含RAN/CN/OAM这些不同的技术域，他们在功能特性、数据结构、以及性能需求上都有着明显的区别。例如，应用在运维领域的模型可能与NLP领域LLM类似，可以直接对LLM进行微调得到；而应用于空口的模型与自然语言完全是另一套体系。因此，NetGPT并不是一个单一模型通配所有网络场景，而是一系列模型的组合。需要注意的是，这种 5组合并不是简单的将孤立的模型摆放在一起。我们为NetGPT建立了三层模型，即L0，L1和L2。其中，L0代表全网通用大模型；L1代表网络不同领域大模型，如RAN/CN/OAM域大模型；L2代表特定场景下的网络模型，如信道预测或者负载均衡等，如图1所示。NetGPT在通用性、基础性和规模上，都是传统各网元各自训练出的特定场景模型所不能相比的。通用性上，NetGPT-L0要能在全网各领域通用，包含是电信领域的基础知识，NetGPT-L1的通用性就差一些，局限在对应的领域内；基础性指的是能够通过few-shot甚至zero-shot就很好的适配到下游任务上，这一点NetGPT-L0/1都要具备，特别是L1，要能够作为NetGPT-L2的基础模型，通过各种策略来快速适配到新的场景中去，不再需要从头开始训练L2。而在模型规模上，NetGPT-L0/1的参数量要满足大模型的基准门限，目前业界普遍的看法是，产生智能涌现的最少参数量在70亿。NetGPT-L2的参数量可以小很多，方便其部署在网络边缘和端侧。图1NetGPT三层L0/1/23.十大基础问题尽管大模型，尤其是LLM，已经在很多领域展现出了令人惊叹的能力，网络大模型仍然还有很多基础问题需要去研究和解决。这些问题可以分为两类，一类是大模型本身的设计类问题，另一类是网络设计如何支撑大模型应用类问题，如图3-1所示。也就是说，我们让NetGPT既要造的出，也要用得好。 6图2网络大模型NetGPT十大问题3.1NETGPT场景和需求问题网络技术研究，以需求和场景始。研究NetGPT的需求和典型场景是网络大模型制定发展策略、规划和优化的基础，并对网络长期规划、技术升级和演进决策具有重要意义。只有具备高增益的典型场景、高价值的典型业务，才能为NetGPT后续的落地和部署提供必要保障，否则只能是停留在纸面的空中楼阁。因此，NetGPT的需求是否真实存在，需求程度如何，需要通过研究过程逐步去伪存真，为后续的网络设计和NetGPT发展提供必要依据。另外，在NetGPT需求和场景研究中，需要结合对未来技术趋势的分析，需求和场景研究可以一定程度适度超前当前科技水平。单从IT视角进而CT视角看GPT技术，从IT视角看，GPT既是一种AI大模型，也是超级AI大应用；从CT视角看，GPT既可以是一种辅助工作的赋能手段，也可是一种创新设计新范式。而就6G网络发展而言，从“需求搜集”到“系统设计“，再到”规范标准“，“研发测试”，“规划，建设，运维，管理，优化，营销”等全生命周期的各个环节，GPT类技术都可以在其中发挥重要作用，而从一开始最具价值的毫无疑问是GPT赋能网络，即NetGPT。而无线网络边缘单设备/终端相对于云较为受限的计算能力，决定了NetGPT并不能像传统AI那样对网络中的功能和算法进行简单替换，而需要重新设计，包括适配无线网络的NetGPT算法，以及原生支持NetLM应用的无线网络架构。 7（1）NetGPT在网络中提质、增效、降本和拓收的需求和场景。体现在提高网络AI普适性、网络性能提升、网络智能化管控优化等方面。面向沉浸式通信、超大规模连接、超高可靠低时延、泛在连接、智能内生、通感融合等未来网络应用场景，相对目前的网络管理与服务方式，使用NetGPT是否可以出现新的管控范式，进而AI服务可以更加广泛，AI准确度得到有效保障，网络获得较大的增益。例如，在多样性的场景中，为不同场景的需求提供定制化的解决方案，根据不同场景精准编排网络服务，从而实现网络的泛在智能，提高网络的适应性和用户满意度。在网络传统的管控优化方面，大模型能否提供更普适性的AI，在自动化网络管理和故障排除、网络优化和资源分配、辅助构建自适应网络、检测网络威胁和异常活动从、辅助分析网络数据等方面，进行综合性的分析与管理，提升网络全局的效率。（2）6G网络架构支撑NetGPT发展的需求和场景。6G网络新的创新技术，天然具备支撑NetGPT独具优势发展的土壤，如移动算力网络、分布式网络架构等。但是6G网络架构、功能、接口设计，与NetGPT的发展速度时间窗口不一定完全匹配。6G网络设计在原生支持NetGPT方面，通过云计算、边缘计算移动算力网络的计算资源，为NetGPT提供训练算力、分布式部署、分布式推理等场景是否具有需求与可行性。另外，在NetGPT算法设计中，是否匹配6G网络泛在终端、异构资源特点；以及NetGPT的出现，是否会对目前6G架构，功能与协议栈造成冲击。这些将