目录216G内生AI的驱动力36G与AI大模型26G内生AI架构及关键技术Ø网络使能AI大模型ØAI大模型赋能网络 泛在智能的需求3人工智能已成为新一轮产业升级的核心驱动力，产业的自动化、数字化、智能化需要泛在智能运行与维护应急通信智能覆盖定制网络机器翻译智能导航个性化推荐安全监控机器人救援智能制造声纹识别医疗识别网络自治需要AI用户需要AI企业需要AI6G网络需要高效地为网络自治、ToC和ToB提供AI服务! 5G时代网络和AI融合的启示6G网络智能化的启示外部和叠加AIn模式一：将具备AI资源的服务器接入网管设备，为网络提供AI模型。 l6G需要一个统一的框架：以支持有效的AI性能验证和保障方法。l6G需要高效的数据采集和传输：以实现AI预验证、在线评估和优化的全自动闭环。l6G需要计算、数据、模型和连接的协同：以提供更低的延迟和有保障的QoS。n模式二：在核心网络中增加AI作为新的网络功能，如NWDAF。AI 服务器CNRANUE网管NWDAF云AI服务提供商的启示云AI服务提供商n云AI服务提供商在用户提交订单后提供尽力而为的AI服务。UE网络云AI服务提供商提交AI服务订单网络传输l6G需要充分利用网络的人工智能相关资源：以感知网络状态，利用网络广泛分布的计算、数据、算法资源，提供高效的人工智能服务。l6G需要为AI服务提供QoS保障：以提供满足用户特定需求的AI服务。l6G需要保护数据隐私和安全数据： 在提供可靠AI服务的同时，防止数据泄露。 5G智能到6G的转变——内生AI6G内生AI网络自治网络极简QoAISQoAISAIaaS工业互联网智慧能源智慧农业车联网智慧医疗云游戏/云XRAIaaS1. 从 烟囱式开发 到 泛在智能的统一网络AI框架云AI供应商远程AI服务基于QoAIS的网络AI服务3. 从 尽力而为 到 按需可得 2. 从 外挂叠加 到 内生一体面向6G泛在智能的愿景，网络与AI的融合需要有三大转变，6G网络将是内生AI 目录616G内生AI的驱动力36G与AI大模型26G内生AI架构及关键技术Ø网络使能AI大模型ØAI大模型赋能网络 6G网络逻辑架构面向泛在智能等多种服务需求，6G将新增多个逻辑面，提供通信、感知、计算、AI、大数据、安全等一体融合的多维网络能力，以及平台化、一体化的服务体系7数据开放需求计算服务需求AI服务需求通信需求安全服务需求用户需求：数字孪生数据面：管理网络数据，提供数据服务计算面：管理计算并提供计算服务智能面：为原生AI提供全生命周期的运行环境与5G网络不同，6G网络将定义新的数据面、智能面、计算面等，并有望扩展传统的控制面和用户面。 网络智能计算数据AS 层应用层终端底层资源管理&编排计算存储通信算力模型生成/导入AI 服务需求QoAIS 解释&评估AI 模型传输计算传输数据传输UE 策略数据连接 6G网络逻辑架构——内生AI的具体设计6GAI业务的实现需要通信、计算、数据和模型服务的支撑，需要不同逻辑面之间复杂的协同机制。1. 泛在智能的统一网络AI框架2. 从外部叠加向内部集成转换3. 从尽力而为转向按需应变转换内生AI将AI 三要素（数据、算法和算力）与网络连接一样下沉为网络内部的基本资源，使网络通过多维资源的协同，直接、便捷地为用户提供高质量的AI服务。AI任务管理 AI服务质量（QoAIS）指标体系，突破传统QoS体系中以会话和连接性能为主要关注指标，将安全、隐私、自治和资源开销作为新的评估维度纳入，形成一套标准化的AI服务质量评价体系，为用户AI服务质量的衡量和保障机制的设计提供了统一的依据nQoAIS是管理编排和任务管理/控制的重要输入，管理编排需要将服务QoS分解为任务QoS，再映射到对连接、计算、数据和算法等各方面的资源QoS要求上n为保障QoAIS的达成，需要“三层闭环”的保障机制AI服务质量（QoAIS）指标体系QoAIS保障机制nQoAIS指标体系是网络对AI服务的质量和效果进行保障所使用的一套指标体系nQoAIS包含AI服务的QoS、AI任务的QoS、AI资源的QoS三个层次上的指标，三层指标间具有映射关系算网基础设施层OTN/OXCOTN/OXC全光底座OTN/OXC统一IP算网底座分布式算力（端）分布式算力（边）分布式算力（网）分布式算力（中心）分布式算力（中心）分布式算力（边）分布式算力（网）分布式算力（端）平台化服务网络智慧城市智慧工业智慧生活智慧园区智慧娱乐管理编排任务管理任务控制9服务QoS例如：任务优先级、算法资源保障优先级、数据资源保障优先级等例如：推理速度、能源消耗、计算安全、数据隐私、模型可控性等例如：性能指标界、训练耗时、计算开销等 关键技术1：端到端AI服务质量（QoAIS）保证 关键技术2：AI计算与通信深度融合6G传统网络中提供AI服务需要通信和计算协议之间频繁的交互与协调，需要设计一套通算融合的内生AI协议，实现对计算和通信的协同管控与承载，满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求。管理面、控制面、用户面三个维度实现计算和通信深度融合模式三 模式二 xNB用户面：联合设计“计算协议+通信协议”满足QoAIS+均衡分配网络资源，满足“性能 + 开销”上的需求。5G MEC边缘计算缺点管理面融合的松耦合设计效率低成本高安全性隐私性不够6G内生AI的算力需求高计算效率低能耗、低时延满足各类AI场景差异化QoAIS需求管理面：计算和通信资源的协同编排管理。优势：宏观网元连接关系、各类资源状态，保证网络级性能指标较优。RRC控制面：计算和通信深度融合的三种模式RRCCRCxNBCRC模式一 CRC：Computing Resource ControlNC：Node Compute优势：当QoAIS指标发生恶化时，可快速调整，保障QoAIS目标的持续达成。CRC集中控制 目录1116G愿景与总体架构36G与AI大模型26G智能面的设计——内生AIØ网络使能AI大模型ØAI大模型赋能网络 6G与AI的融合迎来新机遇：通用大模型时代认知智能能理解会思考计算智能能存会算感知智能能听会说能看会认动力智能能动会控通用智能时代(强AI时代)弱AI时代AI迈向通用智能时代，大模型的出现将为6G与AI的融合带来巨大变革12发展模式新跃迁当前网络AI泛化性有限ChatGPT现象级事件，标志着人工智能进入通用智能时代从“能听、会说、能看、会控”，走向“能理解、会思考、会创作”，甚至能“自主决策、自主处理问题”行业大模型（泛娱乐）基础大模型(普适通用，如NLP，CV，多模态)行业大模型（网络）行业大模型（教育）小模型小模型小模型...小模型小模型小模型...小模型小模型小模型...小模型...从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速AI工程化、规模化落地6G网络内生AI如何使能AI大模型的应用？如何设计赋能网络的AI大模型？流量数据分析天线权值调优用户移动预测流量数据分析天线权值调优用户移动预测 6G13模型名称参数领域功能BERT NLP语言理解与生成 LaMDA NLP对话系统谷歌PaLM5400亿NLP语言理解与生成、推理、代码生成 1maeen110亿多模态语言理解与图像生成 Parti200亿多模态语言理解与图像生成擻软Florence6. 4亿CV视觉识别 170亿NLP语言理解、生成Faoebook0PT-175B1750亿NLP语言糢型M2M-100150亿NLP100种语言互译 Gato12亿多糢态多面手的智能体DeepMindGooher2800亿NLP语言理解与生成 AIohaCode414亿NLP代码生成 CLIP&DALL-E120亿NLP图像生成、跨模态检索OpenA1Codex120亿多模态代码生成 ChatGPT175BNLP语言理解与生成、推理等 NLP大模型 NLP语言理解、生成 CV大棋型 CV图像试别百度跨椟态计算大棋 型千亿级别多模态语言理解与困像生成 生物计算大模型 CV化合物表征学习、分子结 构预測阿里巴巴M6万亿级别多模态语言理解与图像生成腾讯混元大馍型-NLP语言理解与生成京东K-PLUG-NLP语言理解与生成、推理、代码生成三六零 -NLP智能搜索字节跳动DA-NLP语言理解科大讯飞中文預训练楳型-NLP语言理解与生成、语言互 译百度文心一言千亿级NLP对话互动，回答问题，协助创作，获取信息网络使能AI大模型：成本与资源的挑战数据来源：OneFlow，国盛证券研究所训练成本超过1万枚A100微软云服务构建训练nGPT-3训练一次的成本约为140万美元 推理成本储存成本1750亿个参数700GB的参数储存需要45TB的数据集每日需要729,167个A100运行小时每日需要30,382个A100n假设访量2500万/日，10个问题/用户，30字/问题 3,798个服务器电费：30万/日换算消耗另加AI大模型在训练、推理、储存方面开销极大，网络难以支撑 网络使能AI大模型：可能模式6G6G内生AI为AI大模型的训练过程提供链接、数据服务，为推理过程提供链接、计算、模型拆解/分发服务。14AI训练服务AI推理服务AI大模型需要较大的储存空间和较强的AI推理芯片，单基站无法满足该需求。在实现合理模型分割的前提下，可将大模型分布式的部署到无线网络中，提供AI推理服务。在6G网络中分布式部署AI大模型，更靠近用户侧，可能在时延方面具有优势。UE6G网络云AI供应商海量数据采集数据处理处理后数据UE6G网络云AI供应商推理请求AI推理处理后数据AI大模型训练通常在数据中心的多台服务器中，服务期间需要用高速率光纤连接，难以将AI大模型的训练过程部署到无线网络中。AI大模型需要哪些特殊的数据分析技术？数据处理功能分布式部署后网络中数据该如何合理调度？分布式部署导致推理时延增加和靠近用户侧传输时延减少该如何权衡？大模型分割、压缩、加速等技术是否可行；大模型分布式部署后节点之间数据如何合理调度？特点6G网络承担数据采集、预处理等数据服务，节省网络中的数据传输，为云AI训练AI大模型提供更好的数据服务。服务从用户、网络中采集大量数据，数据的预处理和流量的调度，支撑AI大模型的训练。潜在增益未来问题 所需数据（特征）场景实例数据来源网络运行东数西算类、算网融合类、超算智算类等算网服务场景；智能需求分析、智能策略匹配、智能服务优化等标准化数据：基础资源状态、拓扑、性能、成本、能耗、告警等数据；业务数据流信息数据、KPI监控数据、XDR、运行日志，告警等数据网管/云管系统数据编码调制、语义+编码调制、波形、多址、MIMO、干扰消除非标准化数据：上下行信道 、语义信息、语义特征、小区内/间干扰网络设备内部数据、语义信源数据基于无线栅格的切换、智能AMC、网络流量检测和拥塞控制、网络流量预测和调度优化标准化数据：MR测量数据、MDT数据；非标准化数据：链路级BLER、端口数据流信息数据（端口流量、时延等）终端测量上报；网络设备内部数据业务识别和感知、异常行为监测标准化数据：业务数据流信息数据（IP五元组、URL、PFD等）网络设备内部数据无线组网动态负载均衡、无线组网动态干扰规避、网络节能、智能寻呼、IP网络智能路由标准化数据：MR测量数据、MDT数据、KPI监控数据（PRB利用率、小区吞吐量等）、控制面信令数据、业务数据流信息数据网络设备内部数据网管系统数据感知类：智能业务识别诊断类：智能故障处理预测类：智能扩容规划标准化数据：KPI等监控数据、XDR数据、告警数据、MR数据、拓扑等资源数据非标准化数据：日志数据、图片数据、文档/案例数据等网管系统数据网络运维AI大模型赋能网络：可行性15AI赋能网络的场景主要分为网络运维和网络运行两大类，能否用一个AI大模型解决多种场景的问题？AI大模型赋能网络场景十分多样，需分析：数据是否可用？如何构建大模