MLOps 高度自主网络的运维 V1.2
摘要
本文件由NGMN联盟发布,描述了启用技术的指南和需求,作为自主系统框架第二阶段的一个扩展。重点关注通用MLOps,并探讨适用于自主网络的MLOps,涉及自动化高级自主水平,从检查MLOps流程、需求、架构以及端到端部署和标准化建议等方面进行探索。
引言
文件旨在提供适用于高度自主网络赋能技术的全面指南和要求,主要关注ML模型的开发与运营,详细阐述MLOps的过程、要求、架构以及Level 4+自主网络人工智能应用的全流程部署。审视了适用于人工智能应用的现有及相关管理标准,并提供了标准化建议。
机器学习模型与MLOps定义
- 机器学习(ML)算法通过输入数据中的模式生成预测。
- MLOps是一套旨在促进不同团队进行需求管理、数据工程、模型开发、模型交付和模型运营的流程、方法和系统,整合了机器学习(ML)、DevOps和数据分析工程。
动机
随着智能网络应用的实施在大规模上扩张,阻碍向高级别自主水平进展的障碍主要体现在日益复杂的复杂性。MLOps是连接机器学习模型的开发、部署和运营的管理流程,旨在提高机器学习模型生命周期管理的效率,并促进其大规模应用。
MLOps工作流程
MLOps工作流程通过以下五个阶段自动化机器学习模型的生命周期管理:
- 需求管理
- 数据工程
- 模型开发
- 模型交付
- 模型运行
MLOps工作流程通过以下四个闭环反馈管道自动化机器学习模型的生命周期管理:
- 数据处理功能
- 模型仿真功能
- 模型测试功能
- 工作流管理功能
MLOps管理流程
MLOps管理流程主要通过工作流程管理功能实现,并与15个专业功能的精选套件相结合,这些功能旨在支持ML模型的全生命周期管理。
MLOps架构
MLOps的一般架构包括模型提供者的开发环境、模型操作者的开发环境以及模型操作者的生产环境。
部署方案选项
- 嵌入式网络元素部署:MLOps服务器、模型构建和集成系统、模型训练系统、模型监控系统以及模型部署系统部署在网络元素管理层。
- 集成单域部署:MLOps服务器、模型构建和集成系统、模型训练系统、模型监控系统以及模型部署系统均部署在单域网络管理层。
- 实时单域部署:模型训练系统分为在线和离线模型训练系统,在线模型训练系统、模型操作系统以及模型管理和控制系统部署在网络元素中。
- 跨域部署:中心节点是跨域网络管理层的核心,负责集中处理、协调和监控,边缘节点执行模型推理和监控,并向中心节点提供反馈。
当前状况
- ISO/IEC、3GPP、TMF、国际电信联盟-电信标准化部门等组织正在利用AI/ML技术提升网络性能和用户体验。
- 现有的3GPP框架尚未涵盖DevOps的自主原则,AI/ML技术的集成仍在进行中。
- 缺乏针对MLOps的综合性和普适性标准。
建议
- 建议ITU-T通过扩展现有的DevOps框架,启动端到端和跨领域的通用MLOps框架的总体启用考虑。
- 建议3GPP考虑将MLOps和DevOps流程的生命周期管理整合到端到端ML模型生命周期中。
- 建议O-RAN进一步推广MLOps在O-RAN中的应用,通过遵循3GPP为移动通信网络设定的通用框架。
致谢
中国移动、德国电信、华为、UScellular、中兴通讯等机构参与了本文件的编写和审查工作。