大模型发展现状与MLOps新路径
大模型发展现状
大模型技术正经历快速发展阶段，呈现以下特点：
- 研发投入集中：互联网企业、AI企业、高校院所、电信运营商及金融机构等各界积极投入研发。
- 技术迭代加速：大模型更新迭代周期缩短，模型发布呈现井喷态势。
- 多模态发展：从单模态向语言、语音、视觉等多模态大模型全面铺开。
- 应用范围扩大：大模型在医疗、教育、金融、电力等细分领域拓展应用。
大模型技术能力持续突破，在语言、视觉、多模态及生成等领域性能显著提升。生态构建呈现产、学、研强强联合趋势，头部企业寻求合作。行业应用开始面向具体任务和垂直行业，关注焦点从训练转向应用。社会价值凸显，强调实用性、普惠性，推动技术向善。
大模型平台及应用案例
- 平台：百度文心千帆、华为昇思、火山引擎、阿里云PAI等。
- 应用案例：
- 搜索领域：微软“NewBing”重塑检索结果。
- 办公领域：微软“Copilot”、阿里钉钉、金山“WPSAI”、飞书“MyAI”、百度“如流”。
- 金融行业：彭博社“BloombergGPT”、工行金融通用大模型、农行“ChatABC”、金融顾问“4K-GPT”、LightGPT。
- 教育行业：科大讯飞“星火”、网易有道“子曰”、学而思数学大模型“MathGPT”。
- 医疗行业：谷歌Med-PaLM提升问诊效率。
- 多媒体：Adobe“FireFly”文字生成图像/音频。
- 法律界：律商联讯Lexis+AITM法律内容搜索与总结。
大模型推动AI开发从“作坊式”向“工业化”升级，降低AI应用门槛，促进普惠化。同时加剧行业竞争，为企业带来长期竞争优势，并创造更多商业机会和就业机会。
大模型对MLOps带来的挑战
大模型落地应用面临诸多挑战：
- 推理更新不及时。
- 应用流程复杂成本高。
- 私有化部署成本高昂。
- 领域数据不足，“幻觉”问题凸显。
- 应用场景不够灵活。
- 安全问题更加显现。
大模型波及面广，需做好安全合规，涉及访问控制、加密等措施。大小模型协同、插件应用协同、系统协同及知识库协同将打破技术壁垒。
MLOps可承载大模型工程化过程，但需扩展以下能力：
- 灵活的数据处理能力。
- 大模型调优能力。
- 分布式推理能力。
- 更强大的资源管理调度能力。
- 插件等扩展能力。
- 更强大的安全可信能力。
MLOps发展新路径
MLOps概念与原则
MLOps通过连接模型构建团队、业务团队及运维团队，为机器学习模型全生命周期建设标准化、自动化、可持续改进的过程管理体系，使组织规模化、高质量、高效率、可持续地生产机器学习模型。
基本原则包括自动化、持续性、版本化、可监控、可测试、可追溯、可复现、可协作等。组织应明确角色与分工，提高协作效率。
MLOps发展历程
- 斟酌发酵阶段（2015-2017）：Google首次提出机器学习项目技术债问题。
- 概念明确阶段（2018-2019）：MLOps概念被提出并逐步接受，CD4ML理念提出端到端交付流程。
- 落地应用阶段（2020年至今）：产业焦点集中于AI大规模快速落地，MLOps平台需求迫切。
LMOps（大模型MLOps）
LMOps作为MLOps垂类分支，使大模型通过体系化过程更快获得更优专有能力，适应更多场景落地。其特点包括：
- 流程化：数据-调优-交付-运营流水线。
- 自动化：自动化流水线和工具链。
- 持续闭环：模型监控、数据反馈、回流迭代。
- 可管理：AI资产管理和协同、资源管理调度。
- 灵活协同：与应用、插件、系统、数据库、软件高效协同。
MLOps+LMOps助力MaaS服务模式落地
MLOps+LMOps共同打造AI模型开发和管理平台，通过API、SDK等灵活输出方式，为模型即服务（MaaS）模式提供基础，促进包括大模型在内的模型服务实现落地新范式。未来AI服务将像水电一样触手可及。
MLOps系列标准与评测
- MLOps系列标准结构：开发管理、模型交付已发布，模型运营、大模型运营标准火热进行中。
- 能力成熟度等级划分：智能化、支持机器学习流水线部分环节的智能化学习和执行。
- 评测介绍：信通院MLOps能力成熟度评级开放应用成熟度和服务能力两个评测维度，面向应用方和产品服务方进行评估。
工作进展计划
- 联盟评估规范：通过技术沙龙交流、产业活动峰会、最佳实践推广、咨询服务、产业研究等工作推进MLOps发展。
结论
大模型技术正快速发展，生态构建和应用落地加速，但面临诸多挑战。MLOps需扩展能力以支持大模型工程化，LMOps作为重要分支补充新型能力。MLOps+LMOps共同助力MaaS服务模式落地，推动AI普惠化发展，为行业变革带来契机。
