In the new era of AI driven by large language models, reflections and practices of telecommunication operators

目录 6 缩略语 ................................................................................................................... 22致谢..................................................................................................................... 3摘要 ................................................................................................................................. 4序言................................................................................................................................... 4KT公司利用代理和数据实现的AI转型............................................................ 4NTT DOCOMO的数字化转型与增强战略之旅客户体验................................................................................................................................................中国移动向AI+转型以放大规模赋能... 51 产业中LLM采用的策略 ................................................................................ 62 新兴挑战与技术展望 ................................................................ 72.1 人工智能应用视角.......................................................................................... 72.2 数据支持的观点............................................................................................. 93 应用工具平台......................................................................................... 113.1 中国移动九州大型语言模型应用平台........................ 113.2 DOCOMO LLM 增值平台 .................................................................. 123.3 KT SLM/LLM 平台............................................................................................ 134 生成式人工智能应用案例..................................................................................... 145 未来展望及行业建议........................................................................ 214.1 网络运维与维护中的生成式人工智能............................................................................. 14 4.2 客户服务中的生成式人工智能......................................................................... 17 致谢 SCFA于2011年由中国移动、韩国的KT和日本的NTT DOCOMO共同成立，旨在推动全球技术标准和产业生态系统的三方合作框架。 在2022年，成立了人工智能工作组，专注于人工智能技术的发展与应用，促进成员公司间的技术交流，并指导与促进行业内人工智能技术的应用与合作。 这份白皮书是SCFA AI工作组集体努力的成果，以下编辑团队代表其进行编辑（以字母顺序列出): 凌丽·邓，薄渊，赵雪峰，袁向阳，金迪中国移动： KT:吉永·金，载浩·奥 Issei Nakamura, Kuanyin Liu, Aogu Yamada, Satomi Kura, Takeshi KatoNTT DOCOMO: 摘要 该文件分析了将大型语言模型（LLMs）规模化应用于工业应用所面临的挑战，突出了重造常见能力轮子的难题、网络通信的性能瓶颈、利用以工作为导向的SLM/LLM基于人工智能代理提高生产效率，并提出了如下技术发展趋势，例如基础算法的创新、应用工具平台的标准化以及云边协作。它展示了贡献的计算服务提供商（CSPs）在人工智能技术、数据集成、应用工具平台方面的战略布局，以及各种生成式人工智能应用，并展望了人工智能技术、数据集成和产业协作的未来的发展建议。 前言 KT利用代理和数据的人工智能转型 随着AI硬件和软件技术的快速发展，生成式AI模型正演变出多种版本。与此同时，生成式AI代理正迅速渗透到我们的日常生活中。范式转变到实用的AI代理竞争，反映了用户的生成式AI需求，这与处理和容纳大量客户数据密切相关。随着AI的进步，数据在商业活动中的重要性日益凸显，以客户和企业为基础的数据驱动AI代理是“使用AI的企业转型”的核心。要在AX领域取得成功，有效地收集和使用商业活动中的数据至关重要，AI公司的首要创新必须由数据驱动的AX推动。 在“人工智能代理时代”，随着人工智能日益成为企业和个人日常服务的重要组成部分，KT公司正在通过利用人工智能代理作为其成功转型为AICT公司的一种方向，来提升人工智能的竞争力。在多模型组合战略下，结合其自开发的AI语言模型Mi:dm和基于开源的模型，KT旨在基于高质量数据的学习和利用，向市场提供多种客户/行业特定的模型和人工智能代理。KT正推进利用工作人工智能代理提高员工生产力的目标，并计划通过将其应用于其Genie TV来向客户推广新的AI体验。通过开发这些人工智能代理并推出服务，KT期望确保客户AI数据，并利用这些数据构思特定的AI商业模式。通过全面提供模型即服务以及全球人工智能代理技术/商业合作，增强AI MSP的竞争力，KT将引领人工智能市场和生态系统建设。 NTT DOCOMO迈向数字化的战略之旅 并且增强的客户体验 NTT DOCOMO（DOCOMO）设定了目标，通过数字化业务管理来提升客户体验和改革商业结构，并推动和执行数据利用作为我们面向2025年的中期战略。DOCOMO在数字化转型方面的举措包括通过数据利用进行网络优化、人工智能和人力资源培训，以及推广数字营销。提供图像识别、语音识别和客户分析的AI平台，通过将这些技术应用于其服务来增强DOCOMO的竞争力。 自2014年以来，DOCOMO一直在构建一个大数据基础设施，收集来自近1亿用户和超过27万基站的数据，包括用户信息、使用历史、网络流量和支付历史，作为推动企业管理数字化和数据利用的举措。该平台整合来自业务伙伴的外部数据以及人工智能技术，以在各个业务领域创造价值，如移动服务、零售、银行业和元宇宙。 利用生成式人工智能等新技术寻找新的收入来源并发展业务并非易事。这需要战略规划，包括培训人员，以及大量的试验和错误。DOCOMO不仅专注于开发生成式人工智能的基础技术，而且还积极从事各种倡议，通过持续的实验和改进来创造用例并培训人员。 中国移动向AI+转型以放大规模赋能 面对变革的浪潮，作为全球最大的移动通信运营商，中国移动始终锚定其“世界级信息服务科技创新公司”的战略定位。 在网络计算基础设施方面，已建立了全球覆盖范围最广、用户规模最大的通信网络，拥有超过190万个5G基站，占全球总量的30%，超过90个陆海缆系统连接了78个国家，以及全球运营商最大的单一智能计算中心，拥有18000张GPU卡。 九天，已构建了一系列大型基础模型，包括语言、视觉、语音、结构化数据和多模态，在此基础上，已推出40多个大型行业模型，形成了包括平台、能力和大规模应用的全面人工智能组合。已启动超过10,000个“AI+”项目，以促进能源、制造、医疗护理、交通等各行业的智能化和绿色发展。 在过程中，人们注意到“AI+”的过渡标志着人工智能技术从单纯的技术应用转变为深入工业发展中的全面赋能。在这一过程中面临挑战包括： LLMs在关键任务执行中的局限性、由常见能力重复开发造成的资源浪费以及网络通信的瓶颈效应。 为应对这些挑战，中国移动呼吁行业内所有相关方共同努力构建一个全面的“AI+”产业生态系统，以推动在基础算法层面的创新、应用工具平台的标准化以及云边协同的新模式。 1 LLM Adoption Strategies in Industry 1 行业中LLM采用策略 人工智能，作为新一代信息技术，正迅速崛起成为推动新质生产力的重要驱动力。其中，基于大型语言模型的生成式AI技术显著赋能各个行业，导致AI模型在行业中的应用呈爆炸性增长，预示着一场技术和产业革命的到来，其中信息服务系统与经济和社会运营系统深度融合，深刻改变着人们的生活方式和生产方式。 LLMs在当前工业应用中展现出广泛而深远的影响，成为企业数字化转型中的关键工具。从知识管理到处理复杂任务，LLMs正逐步融入核心业务流程。一个值得注意的应用是检索增强生成（RAG），该技术结合外部知识库和生成能力，有效解决复杂查询。这种方法在客户服务中尤为有效，LLMs帮助公司从大量内部文档中提取精确答案，从而提高服务效率。此外，LLMs在构建和管理企业知识库方面发挥着重要作用，通过自然语言理解和知识提取实现智能查询和更新。在处理复杂任务时，LLMs表现出强大的能力，如自动报告撰写、营销文案生成和代码生成，显著提高生产力和自动化业务流程。LLMs还广泛应用于自动客户服务系统，它们对自然语言的深入理解使它们能够处理传统聊天机器人难以触及的复杂客户意图和情境交互。此外，LLMs通过生成定制内容为个性化推荐做出贡献，提供精确建议，帮助企业在提高客户满意度方面取得更高成就。为了实现这些应用，LLMs利用各种技术优化其在特定场景下的性能。LLMs在工业界的应用可以采取不同的方式，具体取决于技术需求和应用程序的背景。对于技术门槛较低的应用，企业可以通过整合特定领域的知识库，快速部署L0和L1模型，这使得该方法适用于需要快速实施而不需要进行密集的模型优化的场景。在需要特定领域定制化的场景中，可以通过上传定制数据集和应用低代码配置对L0模型进行微调，以生成适应特定任务的L1模型。这种方法适用于需要数据6 积累和模型适应性是必要的，以便对特定的业务需求做出更精确的响应。对于具有更高技术要求和更复杂背景的应用，企业可以采用综合的模型开发流程，包括数据收集、处理、预训练和微调，确保在复杂应用中的模型性能和稳定性，并满足高精度、高可靠性的操作需求。此外，通过多模型收敛平台实现LLM部署，可以促进更广泛的协作应用。企业可以利用模块化插件和集中式代理构建集成了