电信运营商AI实践手册

1英特尔电信运营商AI实践手册#云同行 AI加速 2 3目录CONTENTS人工智能市场支出指南部署 AI 时应考量的因素基于英特尔® 架构的 AI 基石• 第四代英特尔® 至强® 可扩展平台• Gaudi2 在中国市场隆重推出• 经英特尔优化的开源 AI 框架和工具• 基于第四代英特尔® 至强® 可扩展处理器的 AI 调优指南• 广泛的英特尔 AI 产品组合和合作伙伴扩展 AI 产品阵容以满足中国市场的需求05121854 4AI 的爆炸式增长资料来源：Moore, S. (2022)，IEEE Spectrum。 2012201320142015201620172018训练算力(PFLOPs)1e+091e+071e+081e+061e+051e+041e+031e+0220192020202120224 5IDC 预测，2023 年全球在人工智能方面的支出将达到得益于人工智能与各种产品的融合，以人工智能为中心的系统的支出在 2026 年预计将超过中国人工智能市场支出预测，2021-202630,00025,00020,00015,00010,0005,000020212022202320242025202630.0%20.0%10.0%0.0%IDC 预计，2026 年中国 AI 市场市场规模将实现2021-2026 五年复合增长率（CAGR）将超过1,5403,000264.426.9%27.0%20%亿美元亿美元亿美元来源：IDC中国，2023中国人工智能市场支出单位：百万美元YoY*包括以人工智能为中心的系统的硬件、软件及服务*包括以人工智能为中心的系统的硬件、软件及服务*相比 2022 年增长*2022-2026年的复合增长率（CAGR）全球中国人工智能市场支出指南如欲了解更多详情请访问：https://www.idc.com/getdoc.jsp?containerId=prUS50454123 https://www.idc.com/getdoc.jsp?containerId=prCHC50539823 6中国人工智能市场支出预测（行业），2026Top 3 行业 AI 应用场景Top Industry Based on 2023 Market Share (Value (Constant))47.0%46.7%7.1%9.5%10.4%12.8%13.4%7.0%7.8%8.9%29.3%来源：IDC中国，2023Source: IDC Worldwide Artificial lntelligence Spending Guide - Forecast 2023 | Feb (V1 2023)专业服务BankingRetailProfessional ServicesDiscrete ManufacturingProcess ManufacturingOthers地方政府银行通讯其他增强的智能客服销售流程推荐和增强项目顾问和推荐系统搜索推荐广告营销社会服务投资分析公共安全风险管理城市管理欺诈检测人工智能主要应用行业及场景全球中国如欲了解更多详情请访问：https://www.idc.com/getdoc.jsp?containerId=prUS50454123 https://www.idc.com/getdoc.jsp?containerId=prCHC50539823 7AI 正在颠覆 我们的日常生活数据加密库存管理语音助手数字助理视频会议推荐系统降噪面部识别智能门铃自动驾驶汽车购买建议个性化学习代码生成基于 AI 的渲染机器人视觉7 8赋能重要的技术转型个人计算云计算边缘计算网络工作效率信息获取连接能力可扩展性和灵活性加快上市速度节省成本提升性能实时数据分析提高效率提升运维效率实现降耗增效8 9人工智能正在变革电信行业发挥资源优势 构建智能算网• 加速云网融合与算力网络建设：简化网络规划和运营，从云到边缘加速塑造新型网络基础设施，满足增长的算力需求；• 提升运营效益：在算力网络运营全周期发挥关键作用，驱动网络持续变革，协同新技术提升算力网络智能化水平，全面提升安全与服务质量；• 推动产业数智转型：提供AIaaS平台，开发行业大模型，提供智能化方案，驱动AI产业发展和多场景智能化；• 释放综合优势，打造智能算力：充分发挥超大规模数据、算网资源以及大模型等核心算法优势，加速实施云改数转战略，推动网络+ AI技术融合创新，以AI为核心打造智能算力网络。9 10电信运营商AI应用核心场景“加快建设信息网络基础设施。建设高速泛在、天地一体、云网融合、智能敏捷、绿色低碳、安全可控的智能化综合性数字信息基础设施” 1智能运维智慧节能智慧运营• 实现网络自治，提升网络运维效率• 开发网络降耗技术，推进自智节能• 打造智慧运营大脑，提升服务水平https://www.ccps.gov.cn/xtt/202110/t20211019_150923.shtml 11生成式 AI (Generative AI)AI 关键用例生成式 AI 与万物数字化息息相关，其描述了用于创建新数据的算法，这些数据类似于人类生成的内容，包括音频、代码、图像、文本、模拟和视频。这项技术通过现有内容和数据进行训练，为自然语言处理、计算机视觉、元数据和语音合成等应用创造了潜力。 如今，ChatGPT（一种针对人类对话而优化的 GPT-3/4大型语言模型的变体）让普通人不仅了解了生成式 AI 的强大力量，也了解了企业可以从大型语言模型（LLM）中获得的潜在投资回报 。生成式 AI 推动着前所未有的计算需求，企业现在比以往任何时候都更需要一个全面的AI战略，该战略必须针对性能、生产力和能效进行独特设计，以满足包含生成式 AI 在内的新的计算需求。英特尔独特的生成式 AI 解决方案（Democratized AI and an Open Ecosystem），可以满足当今和未来的计算需求：• 英特尔致力于 AI 普适化，结合硬件方面的独特优势，支持开放的生态系统，面向未来进行正确的投资，以满足全方位 AI 的计算需求，包括生成式 AI；• 英特尔采用开放、经济、可扩展的方法，可将 AI 扩展到任何地方—从云端到边缘—使企业能够将数据转化为价值；• 英特尔的领先产品把 AI 性能提升到新高度。通过结合至强® 处理器和 Gaudi2 的互补优势，英特尔能够提供一系列丰富且新兴的 AI 和深度学习功能，助力客户把握 AI 带来的新机遇，进而将生产力和效率提升至新高度；• 英特尔致力于培育开放的生态系统，建立信任、提供选择并确保互操作性，以满足性能、生产力和能效需求；• 英特尔提供多样的硬件组合，可将各种 AI 负载的推理和训练性能提升至新的水平，以满足对速度的需求。 12部署 AI 时应考量的因素按业务需求选择合适的 AI 方法时，应考量哪些因素？业务用例数据特点人工智能类型人工智能算法类别发现变量间的关系结构化数据，批量分析机器学习回归预测分类型分类标签或进行数据分类结构化数据，批量分析机器学习分类揭示变量间具有意义的关系结构化数据，批量分析机器学习聚类进行图像分类，在图像中找到识别对象井进行分类非结构化视觉数据( 视频、MRI 扫描片等 )，批量或实时分析，小型数据集深度学习: 图像识别、对象检测卷积神经网络(CNN)从文本中提取内容和意义非结构化文本( 电子邮件、Office 文档、社交媒体帖文等)，非机构化音频/视频内容，批量或实时分析深度学习: 自然语言处理(NLP)， 语言翻译，语音识别长短时记忆(LSTM)，递归神经网络(RNN)将文本/文字转为语音非结构化文本，实时分析深度学习: 文字转语音生成对抗网络(GAN)推荐广告、搜索、应用等结构化客户数据，非结构化文本，实时分析深度学习: 推荐引擎多层感知器(MLP)生成像训练数据的图像非结构化图像和视频，实时分析深度学习: 数据生成GAN 结合 CNN从对行为的反馈中学习结构化及非结构化数据，批量或实时分析深度学习: 强化学习CNN 或 CNN+RNN12 13借助英特尔® 技术提升洞察质量驱动关键业务产出• 从云端、网络、边缘，到终端设备，更广泛的应用场景意味着 AI 的部署环境正变得更为复杂且多元化；• 在异构平台上运行全栈软件，需要用户基于不同的硬件基础设施来设计高效稳定的开发和部署方案，且需要根据业务场景、软件框架的不同来实施复杂的调优过程。如欲了解更多详情请访问：https://www.intel.cn/content/www/cn/zh/artificial-intelligence/resources/advance-insights-with-ai-brief.html84%90%70%的高管(到2025 年)的数据中心AI推理任务认为他们需要借助AI来获得成功的企业应用将使用嵌入式AI在英特尔® 至强®可扩展处理器上运行对于力求在整个企业业务层面扩展 AI 应用的企业来说，降低复杂性是关键所在。13 14部署 AI 需要异构芯片资料来源：英特尔预测结果基于分析师数据和内部分析得出数据预处理数据管理深度学习训练推理经典机器学习通用计算加速计算模型部署输入数据AI 助力实现出色的业务成果 15通用计算 服务于端到端 AI 管线 通用计算开放软件环境实时，中等吞吐量，低时延和稀疏推理中小型训练和微调边缘侧AI 推理终端侧推理 16在基于 CPU 的基础设施上运行 AI 工作负载部署 AI 时需要考量的基础设施因素在漫长的 AI 开发流程中，对计算资源的要求各不相同基于英特尔® 技术的现有基础设施可以支持多种 AI 用例和工作负载灵活性效率可扩展性推荐引擎经典机器学习循环神经网络使用大数据样本的模型其他实时推理空闲时段训练用途推荐广告、搜索、应用等从数据获取洞察语音识别医学影像、地震勘探、3D环境图像识别、语音识别、自然语言处理任何用途类别多层感知器(MLP)回归、分类、集群等循环神经网络(RNN)卷积神经网络(CNN)多种类别任何类别CPU的 优势训练和推理。将更大的内存用于嵌入层将速度更快的内核用于大型数据集和难以并行运行的算法实时推理。将速度更快的内核用于顺序、难以并行处理的数据训练和推理。需要更大的内存将速度更快的内核用于难以井行处理的小批数据数据中心容量 17人工智能（AI）、机器学习（ML）和深度学习工作负载，如图像分类、自然语言处理（NLP）、目标检测和视频分析，正在推动各行各业拥有更快和更好的洞察力。然而，不合格的硬件和未经优化的 AI 训练和推理解决方案阻碍了它们的进一步发展。纵观市场上所有的 CPU，第四代英特尔® 至强® 可扩展处理器内置众多加速器，可为 AI 工作负载提供性能和能效优势，并可凭借全新的英特尔® 高级矩阵扩展（英特尔® AMX）提供卓越的 AI 训练和推理性能。英特尔数千名软件工程师正在整个AI生态系统中贡献着自己的一份力量加速 AI 的发展。例如，NumPy、TensorFlow、PyTorch、Scikit-learn、XGBoost 的主流开源版本均已面向英特尔® 架构进行了优化。英特尔提供了许多工具来加速 AI 发展，如用于推理模型优化的 OpenVINOTM 工具套件；用于 Apache Spark 上的分布式深度学习的 BigDL；以及用于在任意基础设施上协调机器学习管道的 cnvrg.io MLOps 平台。第四代英特尔® 至强® 可扩展处理器，结合软件优化和生态系统合作，正在帮助人工智能开发者实现其生产力目标，并从人工智能中更快地获得商业价值。第四代英特尔® 至强® 可扩展处理器内置 AI 加速英特尔携手生态