您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [王晓君等]:神州泰岳AI+实践:跃升通信网络运维数智化生产力 - 发现报告

神州泰岳AI+实践:跃升通信网络运维数智化生产力

电子设备 2024-05-01 - 王晓君等 dede
报告封面

王晓君神州泰岳CBG副总裁兼产品总裁 政策逐步深化:国家级政策频繁出台,为AGI的实现提供政策土壤 全球AI市场活跃,中国也跑步式进入AGI市场的快速启动期。从政策、技术和资本方面全面体现增长态势; 人工智能领域政策正在逐步深化,政府从最初观望态度到现在的积极融入,全面鼓励和推动,从中央到地方的全面推进。 整合与实施阶段:全面布局与综合应用 推动创新阶段:技术创新与应用推广 初始阶段:基础设施与法规建设 着眼未来:战略部署与伦理治理 支持技术创新和产业集群发展,如《上海市推动人工智能大模型创新发展的若干措施》。重点发展具体技术应用,比如人形机器人的创新开发(《人形机器人创新发展指导意见》)。 政策覆盖广泛,涉及多个领域和多个部门的联合政策发布,如:《“数据要素x”三年行动计划》。 强调AI的战略地位和行业应用,2024年《人工智能+》首次提出,象征着AI作为产业创新的关键抓手。 专注于建立基础设施,如《电⼦信息制造业2023⼀2024年稳增长动方案》中提到的数据和人工智能基础设施建设。强调法律和安全框架的构建,例如《生成式智能服务管理暂行办法》确立安全评估规定。 着眼于AI的长远发展和国家战略,政府工作报告和中国发展搞成论坛强调人工智能的重要性。关注人工智能伦理治理和科技创新,旨在平衡创新和监管。 积极布局AI+战略:激活数智化生产力,赋能千行百业 通信行业全面拥抱”AI+”。各大运营商积极拥抱AI技术,纷纷制定相关战略规划,利用其强大的数据处理和分析能力,激活数智化生产力,从通信到各行业领域广泛赋能,推动产业升级与创新,助力千行百业实现智能化转型与发展。 战略层面:全面实施“云改数转”企业战略算力层面:形成了“2+4+31+X+O”的算力布局模型层面:推出以自研星辰大模型为底座的AI+产品升级计划应用层面:发布一批AI升级产品和行业大模型,全面焕新中国电信智慧家庭“五智”体系,共同畅想美好家愿景。 战略层面:AI的创新被中国联通列入九大重点发展计划算力层面:构建了“1+N+X”智能计算能力体系模型层面:构建了元景“1+1+M”大型模型体系应用层面:通过实施数智强企战略,以行业大型模型为重点落地场景,积极推动数字化转型和智能化升级 战略层面:积极发挥“铁塔+大数据+AI”统筹作用算力层面:采用“云端AI计算+边缘AI计算”模式推动算力资源共享模型层面:全力打造空间治理行业大模型应用层面:超过22万座“通信塔”升级为“数字塔”,广泛服务于环保、林草、农业、国土、水利、交通、应急等40多个关系国计民生的关键领域 战略层面:全面推进“AI+”行动、加快形成新质生产力算力层面:三个近两万卡超大规模智算中心模型层面:打造“九天”人工智能大模型矩阵应用层面:落地“5G+”“AI+”项目超3万个,积极运用数字技术赋能传统产业转型升级。 AI赋能网络:网络运维通用智能,促使从“网络+AI”向“AI+网络”转变 基于大模型技术有望实现网络运维领域的通用智能,面向客户、运维人员、网络设备等全要素、全场景,提供全新的用户交互、信息组织和系统集成模式,促使运维模式从“网络+AI”向“AI+网络”转变。 运维助手 运维专家 运维秘书 运维大师 网络运维智能化演进路径 实时洞察但专业网络全景信息,自动生成网络配置方案和指令,自主对接设备完成操做,减少人工干预 能够基于语义,认知网络运行状态,进行诊断和预测 智能处理全网运维事件,实现跨专业的业务端到端保障优化,实现知识创新,引领网络运维自主演进 提 供 交 互 式 的运 维 知 识 智 能问 答 和 数 据 的生成式拉取 核心网 传输网 网络云 IP网 无线网 大模型可分析海量数据,结合业务需求,为网络规划提供科学依据,使规划更具前瞻性和合理性。 能辅助精确配置资源,模拟部署方案,确保部署高效准确,减少失误和成本。 网络运维智能化应用场景 快速诊断故障,提供解决方案,自动编写变更脚本,提升维护效率和质量,保障网络持续稳定运行。 精准分析网络性能指标,找出优化点,规划优化方案,助力实现网络性能提升,改善用户体验。 全面洞察运营状况,协助制定策略,提高运营效率和效益,增强市场竞争力。 神州泰岳“数智化新IT”运营,领航ICT运营管理新范式 神州泰岳深耕ICT运营管理领域20余年,秉承运营即服务理念,融合5G、云计算、大数据、人工智能等多种创新技术,匠心打造“数智化新IT”运营体系,构建“数字化、网络化和智能化”的新质生产力,为大型企业客户的业务数智化场景高效赋能,领航数字经济时代ICT运营管理的新架构、新业态和新模式。 神州泰岳“1+N+X”AI大模型产品体系,跃升新质生产力 神州泰岳立足通信运营商行业在ICT运维、运营以及研发等生产智能化场景需求,构建符合通信行业领域专业知识、性能更强、准确率更高的AI能力集,融合成“1+N+X”大模型产品体系,为用户智能化场景赋能加速提效。 深耕行业,项目案例10000+ 长期致力于在各个行业进行深入地探索与钻研,通过不断的实践与积累,积累了极为丰富的经验,在众多领域成功打造了超过10000个项目应用案例,成果斐然,为助力AI+应用落地奠定深厚的业务经验底蕴。 百花齐放,快速支撑众多领域应用场景 满足AI+应用的多套智能体,结合客户业务诉求,能够以极快的速度有力地支撑起众多不同领域的应用场景,能迅速适应并提供优质的服务,展现出广泛的适应性和强大的功能性。 开箱即用,低代码轻松构建智能体 具备便捷性和高效性,无需繁琐的过程,通过低代码的方式便能迅速且轻松地构建出智能体,极大地提高了开发效率,降低了操作难度,使AI+应用交付团队专注于业务场景的交付。 AI原生,一站式企业级AI应用创新平台 完全围绕AI而构建的一站式企业级AI应用创新平台,它汇聚了先进的技术和理念,能够为企业提供全面的AI应用支持和创新解决方案,从研发到应用的各个环节都能一站式完成,助力企业大幅跃升智能化生产力。 MaaS平台,加速AI大模型应用快速交付 MaaS平台,构建AI+生态 Maas平台旨在构建AI+生态,采用自主研发及联合开发等开放的合作模式,融合多样专业AI专属原生应用,由“小岳机器人”完成综合能力调度、编排以及共享。 泰岳实践:AI+智能问答(1/2) 将生产过程中碎片化的零散文档知识通过智能化、自动化的有效知识沉淀和应用,提供上下文关联的智能知识检索,主动推荐相似知识能力,为生产处理过程场景提供数据知识 建设内容 采用RAG技术,构建智能化的知识搜索引擎。将生产过程中碎片化的零散文档知识通过提供上下文关联的智能知识检索,主动推荐相似知识能力,为生产处理过程场景提供数据知识。 泰岳实践:AI+智能问答(2/2) 遇到的挑战 技术举措 文档解析方面:支持多场景多类型多格式文件 除文本类型文件外,结合版面识别、表格识别、OCR等技术,实现包括txt/Markdown/PDF/Word/PPT/Excel/Html/Chm等多种类型文件,以及面向包含:规范、产品说明、技术方案等等多种场景的文件解析入库。 知识召回方面:Top5召回率达到100% 采用:场景Embendding、利用文档结构进行切片、small2big的索引、关键词+reranking、Embendding微调等技术手段 答案生成方面:先提升数据质量,再提升数据量 精答:三级标题以下的知识点直接回答,不能直接回答则给出相似知识拒答:闲聊/业务区域错误/安全相关反问:一、二级知识点,再回答基础上反问自动泛化:通过大模型自动构造数据,提升模型的泛化能力和鲁棒性。 泰岳实践:AI+智能问数(1/2) 融合Text2SQL+Text2Metrics+Metrics2Data技术,用于分析数据和共享见解的一套业务分析工具,旨在使用户能够轻松地可视化、分析和共享数据。 智能总结 SQL生成 结合SmartBI实现多轮交互式图表生成 •意图识别•支持跨多表•支持多轮对话•自动生成宽表 •通过自然语言回答查询结果。•图文并茂方式输出全方位数据解读结果。 •在『问数』取得结果的基础上,利用SmartBI的图表可视化能力,生成多样式图表。•使用者在SmartBI的图表可视化能力基础上,美化样式、自定义排版可生成复杂报表。 用户输入想要看的数据内容快速理解用户意图并生成SQL语句,将查询结果以图表形式实时呈现给用户。 复合报告一键生成 拖拉拽方式编排页面 将编排布局完成的数据图表一键生成报告。 支持人工拖拉拽方式编排页面布局效果。 建设内容 数据分析解读阶段 支持语音、文字提问,无需了解数据底层结构一问多答,自动多维度数据解读分析,打破知识盲区,AI辅助智能洞察,快速直观了解数据趋势和风险,自动给出行动建议。 精细化数据运营,AI辅助数据解读,自动总结数据洞察结果 泰岳实践:AI+智能问数(2/2) 生产中的挑战 技术举措 Text2SQL现状 •Spider数据集执行准确率达到91.2%•BIRD-SQL执行准确率65.45%(人类92.96%)•有限场景下,基于LLM微调能实现90% 意图识别、查询表关联召回 •挑战1:业务问题 LLM擅长通识,缺少领域知识目标/复杂任务规则•挑战2:数据治理问题多表join不佳、多列的召回不佳、库表Schema超出Context长度•挑战3:恶意注入问题通过交互方式注入恶意指令,并在框架上运行,触发响应漏洞 建立业务术语和维度字典,结构化表达查询,用户问题意图实体抽取,问题改写+关联召回,优化多表关联查询能力准确性。 从用户query中解析出metrics的原子指标、时间修饰词、属性修饰词 从原子指标中得到获取数据的API,时间修饰词和属性修饰词作为API参数,确定性的获得数据 应用安全护栏,保障决策安全可靠,行为安全可控 •训练中敏感数据清洗:平衡可用性和隐私保护•推理中敏感数据保护:优化效果与脱敏程度•隐私风险评测:行业/企业隐私评测基准•安全护栏:任务Prompt安全检测、任务规划安全分析、指令生成安全防护、指令执行安全防护 泰岳实践:AI+网络运维智能化-质差分析智能体(1/2) 构建基于大模型智能体思考、编排与调度能力,面向ICT运维场景,依托大模型框架融合多模态数据,拉通问题识别、问题定位与方案与脚本生成等AI小模型能力,构造通信运维智能体,有效缩短运维问题定位与处置时长,加速问题处置全流程闭环,提高运维智能化水平与业务可靠性。 关键技术与难点 ①多智能体调度与编排:基于LLM的多长场景通信智能运维智能体调度框架,支持多Agent协作与动态编排,具备计划、记忆、反思、推理与ReAct能力 ②多智能体群落:针对不同模态的运维数据,构建专属算法进行检测与检索的专家智能体群落 ③自学习增强的推理与反思:在专家经验知识库的基础经验上,基于异常处置闭环过程的历史数据,主Agent完成自主学习进而达到提升准确率的目的 13④动态有向关系图谱:基于动态配置信息数据与历史告警数据,自动生成有向关系与影响参数关系图谱,辅助专家智能体完成影响范围分析、根因定位与诊断决策 泰岳实践:AI+网络运维智能化-IP网割方案与脚本生成(1/2) IP网络智能体机器人立足于黄金案例知识的数据基础,率先从网络割接场景入手,实现通过多轮交互方式生成,包含: 割接操作步骤、环节以及对应的变更脚本生成。当此能力成熟后,再逐步向IP网络割接整体智能化方向进行演进。 泰岳实践:AI+网络运维智能化-IP网割方案与脚本生成(2/2) IP网络智能体机器人立足于黄金案例知识的数据基础,率先从网络割接场景入手,实现通过多轮交互方式生成,包含: 割接操作步骤、环节以及对应的变更脚本生成。当此能力成熟后,再逐步向IP网络割接整体智能化方向进行演进。