6G内生AI架构及AI大模型（10月）

刘光毅 2023年10月 目录 16G内生AI的驱动力 26G内生AI架构设计及关键特征 36G与AI大模型 泛在智能的需求 人工智能已成为新一轮产业升级的核心驱动力，产业的自动化、数字化、智能化需要泛在智能 AI赋能网络性能的驱动力 移动通信技术的发展遭遇瓶颈，迫切需要技术创新和交叉学科融合发展利用AI赋能网络性能提升成为主要解决思路之一 现有技术难以完全满足6G需求 更大规模MIMO信道估计困难更密集的基站部署干扰更严重更复杂的系统设计带来能耗上升海量异构设备组网路由复杂多样化通信场景需求碎片化 网络使能AI的驱动力 ITU将6G场景扩展到泛在智能，需要将AI打造成6G通信网络的新能力和新服务，实现AIaaS 5G网络智能的挑战 场景用例驱动式AI 外挂或嫁接式AI 存在问题：数据的实时性、有效性和一致性难以保证，性能难以达到预期；难以实现数据采集、训练、推理、优化、验证的AI全流程，试错成本高； 存在问题：AI模型泛化性较低，开发周期长、成本高 ◼针对不同第三方AI场景设计不同AI服务流程 存在问题：网络作为透明管道，数据上传云端，难以高效利用网络中泛在的通感算数智等资源，无法保障AI的服务质量和安全 存在问题：通信网络无法根据差异化场景需求，快速部署AI服务 5G智能到6G的转变——内生AI 面向6G泛在智能的愿景，网络与AI的融合需要有三大转变，6G网络将是内生AI 目录 16G内生AI的驱动力 26G内生AI架构设计及关键特征 36G与AI大模型 6G网络逻辑架构 面向泛在智能等多种服务需求，6G将新增多个逻辑面，提供通信、感知、计算、AI、大数据、安全等一体融合的多维网络能力，以及平台化、一体化的服务体系 与5G网络不同，6G网络将定义新的数据面、智能面、计算面等， 数据面：管理网络数据，提供数据服务 6G智慧内生架构设计 AI服务的完成需要通信、数据、计算、智能面的协同 关键特征1：AI服务质量（QoAIS） AI服务质量（QoAIS）指标体系，突破传统QoS体系中以会话和连接性能为主要关注指标，将安全、隐私、自治和资源开销作为新的评估维度纳入，形成一套标准化的AI服务质量评价体系，为用户AI服务质量的衡量和保障机制的设计提供了统一的依据 ◼QoAIS指标体系是网络对AI服务的质量和效果进行保障所使用的一套指标体系◼QoAIS包含AI服务的QoS、AI任务的QoS、AI资源的QoS三个层次上的指标，三层指标间具有映射关系 ◼QoAIS是管理编排和任务管理/控制的重要输入，管理编排需要将服务QoS分解为任务QoS，再映射到对连接、计算、数据和算法等各方面的资源QoS要求上◼为保障QoAIS的达成，需要“三层闭环”的保障机制 关键特征2：AI计算与通信深度融合 6G传统网络中提供AI服务需要通信和计算协议之间频繁的交互与协调，需要设计一套通算融合的内生AI协议，实现对计算和通信的协同管控与承载，满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求。 编排管理、控制面、用户面三个维度实现计算和通信深度融合 5G MEC边缘计算缺点 编排管理：计算和通信资源的协同编排管理。 优势：宏观网元连接关系、各类资源状态，保证网络级性能指标较优。 6G内生AI的算力需求 用户面： 联合设计“计算协议+通信协议”满足QoAIS+均衡分配网络资源，满足“性能+开销”上的需求。 CRC：Computing Resource ControlNC：Node Compute 关键特征3：数据生成与可靠AI 数据生成及优化 旨在降低孪生网络从物理网络采集和传输数据的开销，提高数据采集和处理效率，解决传统真实数据获取难等问题；技术：GAN数据增广技术 AI预验证 旨在不影响网络运营的情况下完成网络决策的性能预验证，降低网络运维操作及AI决策可能导致网络性能恶化的潜在风险； 关键特征4：服务化 差异化的网络AI需求需要通信、计算、数据、智能面网络功能的灵活组合，基于服务化的网络架构设计和实现为按需灵活编排提供基础 目录 16G内生AI的驱动力 26G内生AI架构设计及关键特征 36G与AI大模型 6G与AI的融合迎来新机遇：通用大模型时代 AI迈入通用智能时代，大模型的出现将为6G与AI的融合带来巨大变革 当前网络AI泛化性有限 发展模式新跃迁 从小模型到大模型，生产效率跨越式提升 ChatGPT现象级事件，标志着人工智能进入通用智能时代 基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速AI工程化、规模化落地 从“能听、会说、能看、会控”，走向“能理解、会思考、会创作”，甚至能“自主决策、自主处理问题” 网络使能AI大模型：可能模式 6G内生AI为AI大模型的训练过程提供链接、数据服务，为推理过程提供链接、计算、模型拆解/分发服务。 AI大模型需要较大的储存空间和较强的AI推理芯片，单基站无法满足该需求。 AI大模型训练通常在数据中心的多台服务器中，服务期间需要用高速率光纤连接，难以将AI大模型的训练过程部署到无线网络中。 特点 在实现合理模型分割的前提下，可将大模型分布式的部署到无线网络中，提供AI推理服务。 从用户、网络中采集大量数据，数据的预处理和流量的调度，支撑AI大模型的训练。 服务 6G网络承担数据采集、预处理等数据服务，节省网络中的数据传输，为云AI训练AI大模型提供更好的数据服务。 潜在增益 在6G网络中分布式部署AI大模型，更靠近用户侧，可能在时延方面具有优势。 分布式部署导致推理时延增加和靠近用户侧传输时延减少该如何权衡？大模型分割、压缩、加速等技术是否可行；大模型分布式部署后节点之间数据如何合理调度？ AI大模型需要哪些特殊的数据分析技术？数据处理功能分布式部署后网络中数据该如何合理调度？ 未来问题 AI大模型赋能网络：演进路径（待细化） 与ChatGPT不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络AI大模型面临较大挑战 1.面向上述场景，可考虑分阶段探索，首先探索网络运维人工智能大模型从小规模、离线入手，向大规模、实时发展，最终探索是否可以实现统一。 2.当前大模型主要用来生成文字，语音，图像等内容，无法直接影响网络。因此在通信网络环境中最终演进是否是包含了大模型功能，且能控制影响网络的AI Agent。 6G与AI大模型：数据需求 AI赋能网络的场景主要分为网络运维和网络运行两大类，能否用一个AI大模型解决多种场景的问题？ 6G与AI大模型：数据开放 网络运维的数据是以分钟/小时粒度数据为主，来源较为统一；网络运行的数据时间粒度、标准化程度、数据来源更为多样和复杂，获取较为困难 业界联合的数据开放 数据开放和标准化 6GANA联合九天平台等多家单位发布4大数据集，打造业界数据共享生态，助力网络AI研究！ 数据开放 持续梳理和积累网络智能化数据集，对外开放，构建智慧网络创新系列生态，助力研究 联合业界共同制定新增数据采集规范，制定按需动态数据采集粒度方案 问题思考 •如何探索网络使能AI大模型的潜在应用场景，挖掘场景价值？ 应用场景 •如何评价AI大模型赋能网络的价值和增益？ •如何构建统一的网络大模型？•对于网络而言，Al领域如何建立可解释性理论模型，保障网络中AI大模型决策的有效性和可靠性? 数据/模型 •如何解决数据离散、设备数据获取难等问题？ •如何利用数字孪生网络生成高质量数据，并对AI大模型进行验证？ 算力 •如何利用算力的泛在和流动性，使能大模型，如chatGPT、语义大模型？ •如何细化网络使能AI和AI赋能网络的统一架构，实现智能面/计算面功能、接口及流程高效设计？ •架构如何支持AI大模型的分布式训练？ 共同推进全球6G AI合作研究 国内外产学研界30余家单位，于2020年联合成立民间性质的全球Network AI交流平台——6GANA专注于6G网络AI相关技术研究、标准化和落地，致力于形成国内外6G网络AI产业和标准统一 •6GANA顾问委员会：邬贺铨、于全、张平、尤肖虎、童文、黄宇红、陈运清、陈山枝、朱近康、牛志升、梁应敞（排名不分先后） •下设7个工作组和两个SIG，从需求、场景、架构、数据和安全、算法、编排、系统验证、对外合作、网络大模型、数字孪生网络等方面对网络智能展开全面研究，从技术和生态角度，积极推动AI成为6G网络的内生能力和服务(AIaaS)，加速智能普惠时代的到来 欢迎参加2023年底的6GANA全体会议！ 谢谢！