6G内生AI的架构思考

目录 16G内生AI的驱动力 26G内生AI架构及关键技术 36G与AI大模型 Ø网络使能AI大模型 ØAI大模型赋能网络 泛在智能的需求 人工智能已成为新一轮产业升级的核心驱动力，产业的自动化、数字化、智能化需要泛在智能 6G网络需要高效地为网络自治、ToC和ToB提供AI服务! 5G时代网络和AI融合的启示 网络智能化的启示 云AI服务提供商的启示 6G云AI服务提供商 外部和叠加AI n模式一：将具备AI资源的服务器接入网管设备，为网络提供AI模型。n模式二：在核心网络中增加AI作为新的网络功能，如NWDAF。 n云AI服务提供商在用户提交订单后提供尽力而为的AI服务。 l6G需要充分利用网络的人工智能相关资源：以感知网络 l6G需要一个统一的框架：以支持有效的AI性能验证和保障方法。 l6G需要高效的数据采集和传输：以实现AI预验证、在线评估和优化的全自动闭环。l6G需要计算、数据、模型和连接的协同：以提供更低的延迟和有保障的QoS。 状态，利用网络广泛分布的计算、数据、算法资源，提供高效的人工智能服务。l6G需要为AI服务提供QoS保障：以提供满足用户特定需求的AI服务。l6G需要保护数据隐私和安全数据：在提供可靠AI服务的同时，防止数据泄露。 5G智能到6G的转变——内生AI 目录 16G内生AI的驱动力 26G内生AI架构及关键技术 36G与AI大模型 Ø网络使能AI大模型 ØAI大模型赋能网络 面向泛在智能等多种服务需求，6G将新增多个逻辑面，提供通信、感知、计算、AI、大数据、安全等一体融合的多维网络能力，以及平台化、一体化的服务体系 与5G网络不同，6G网络将定义新的数据面、智能面、计算面等， 数据面：管理网络数据，提供数据服务 6G网络逻辑架构——内生AI的具体设计 AI业务的实现需要通信、计算、数据和模型服务的支撑，需要不同逻辑面之间复杂的协同机制。 内生AI将AI三要素（数据、算法和算力）与网络连接一样下沉为网络内部的基本资源，使网络通过多维资源的协同，直接、便捷地为用户提供高质量的AI服务。 关键技术1：端到端AI服务质量（QoAIS）保证 AI服务质量（QoAIS）指标体系，突破传统QoS体系中以会话和连接性能为主要关注指标，将安全、隐私、自治和资源开销作为新的评估维度纳入，形成一套标准化的AI服务质量评价体系，为用户AI服务质量的衡量和保障机制的设计提供了统一的依据 nQoAIS指标体系是网络对AI服务的质量和效果进行保障所使用的一套指标体系nQoAIS包含AI服务的QoS、AI任务的QoS、AI资源的QoS三个层次上的指标，三层指标间具有映射关系 nQoAIS是管理编排和任务管理/控制的重要输入，管理编排需要将服务QoS分解为任务QoS，再映射到对连接、计算、数据和算法等各方面的资源QoS要求上n为保障QoAIS的达成，需要“三层闭环”的保障机制 关键技术2：AI计算与通信深度融合 6G传统网络中提供AI服务需要通信和计算协议之间频繁的交互与协调，需要设计一套通算融合的内生AI协议，实现对计算和通信的协同管控与承载，满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求。 管理面、控制面、用户面三个维度实现计算和通信深度融合 5G MEC边缘计算缺点 管理面：计算和通信资源的协同编排管理。 优势：宏观网元连接关系、各类资源状态，保证网络级性能指标较优。 6G内生AI的算力需求 用户面： 联合设计“计算协议+通信协议”满足QoAIS+均衡分配网络资源，满足“性能+开销”上的需求。 CRC：Computing Resource ControlNC：Node Compute 目录 6G愿景与总体架构 1 26G智能面的设计——内生AI 36G与AI大模型 Ø网络使能AI大模型 ØAI大模型赋能网络 6G与AI的融合迎来新机遇：通用大模型时代 AI迈向通用智能时代，大模型的出现将为6G与AI的融合带来巨大变革 当前网络AI泛化性有限 发展模式新跃迁 从小模型到大模型，生产效率跨越式提升 ChatGPT现象级事件，标志着人工智能进入通用智能时代 基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速AI工程化、规模化落地 从“能听、会说、能看、会控”，走向“能理解、会思考、会创作”，甚至能“自主决策、自主处理问题” 网络使能AI大模型：成本与资源的挑战 网络使能AI大模型：可能模式 6G内生AI为AI大模型的训练过程提供链接、数据服务，为推理过程提供链接、计算、模型拆解/分发服务。 AI大模型需要较大的储存空间和较强的AI推理芯片，单基站无法满足该需求。 AI大模型训练通常在数据中心的多台服务器中，服务期间需要用高速率光纤连接，难以将AI大模型的训练过程部署到无线网络中。 特点 在实现合理模型分割的前提下，可将大模型分布式的部署到无线网络中，提供AI推理服务。 从用户、网络中采集大量数据，数据的预处理和流量的调度，支撑AI大模型的训练。 服务 潜在增益 6G网络承担数据采集、预处理等数据服务，节省网络中的数据传输，为云AI训练AI大模型提供更好的数据服务。 在6G网络中分布式部署AI大模型，更靠近用户侧，可能在时延方面具有优势。 14分布式部署导致推理时延增加和靠近用户侧传输时延减少该如何权衡？大模型分割、压缩、加速等技术是否可行；大模型分布式部署后节点之间数据如何合理调度？ AI大模型需要哪些特殊的数据分析技术？数据处理功能分布式部署后网络中数据该如何合理调度？ 未来问题 AI大模型赋能网络：可行性 AI赋能网络的场景主要分为网络运维和网络运行两大类，能否用一个AI大模型解决多种场景的问题？ AI大模型赋能网络：数据获取和处理的挑战 网络运维的数据是以分钟/小时粒度数据为主，来源较为统一；网络运行的数据时间粒度、标准化程度、数据来源更为多样和复杂，获取较为困难 数据是AI大模型的基础，如何获取适合AI大模型训练的数据面临极大挑战 数据开放 持续梳理和积累网络智能化数据集，对外开放，构建智慧网络创新系列生态，助力研究 AI大模型赋能网络：大模型的构建路径 与ChatGPT不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络AI大模型面临较大挑战 面向上述场景，可考虑分阶段探索，首先探索网络运维人工智能大模型 从小规模、离线入手，向大规模、实时发展，最终探索是否可以实现统一 问题思考 •如何探索网络使能AI大模型的潜在应用场景，挖掘场景价值？ 应用场景 •如何评价AI大模型赋能网络的价值和增益？ •如何构建统一的网络大模型？•对于网络而言，Al领域如何建立可解释性理论模型，保障网络中AI大模型决策的有效性和可靠性? 数据/模型 •如何解决数据离散、设备数据获取难等问题？ •如何利用数字孪生网络生成高质量数据，并对AI大模型进行验证？ 算力 •如何利用算力的泛在和流动性，使能大模型，如chatGPT、语义大模型？ •如何细化网络使能AI和AI赋能网络的统一架构，实现智能面/计算面功能、接口及流程高效设计？ •架构如何支持AI大模型的分布式训练？ 共同推进全球6G通信与AI融合的研究 欢迎参加IEEE GLOBECOM 2023 Workshop 11on Intelligent 6G Architecture: TowardsNetwork Simplicity and Autonomy，探讨6G架构创新的新进展！