大话模型化调动的 AI 新代中电信营商的思考与实践

Contents 确认书 … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … …摘要 … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … …前言 … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … … …KT 利用代理和数据进行 AI 转型。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。NTT DOCOMO 迈向数字化转型和增强的战略之旅客户体验 5中国移动向 AI + 转型以扩大规模授权 …1 行业 LLM 采用策略 … … … … … … … … … … … … … … … … … … … … … … … … … … … …2 新兴挑战和技术预见 … … …2.1 人工智能应用视角 72.2 数据推波助澜视角 … … … … … … … … … … … … … … … … … … … … … … … … … … …3 应用工具平台 113.1 中国移动九天大语言模型应用平台........ 113.2 DOCOMO LLM 增值平台3.3 KT SLM / LLM 平台4 生成 AI 应用案例 … … … … … … … … … … … … … … … … … … … … … … … … … … … … …4.1 面向网络运维的创成式人工智能 14 4.2 面向客户服务的创成式人工智能 17 6 缩写 225 未来展望及行业建议 21 Acknowledgement 中国移动、韩国的KT和日本的NTT DoCoMo于2011年共同成立了SCFA，旨在推动全球技术标准和产业生态系统的三方合作框架。 在2022年，成立了AI工作组，专注于AI技术的发展和应用，促进成员公司之间的技术交流，并指导和推动行业内AI技术的应用与合作。 这份白皮书是由SCFA AI WG集体 effort 编写完成的，并由以下编辑团队（on its behalf）代表：按字母顺序列出): 邓玲丽 ， 伯源 ， 赵雪峰 ， 袁向阳 ， 狄金中国移动 ： KT:Jiyoung Kim, JaehoOh Isei Nakamura, Kuanyin Liu, Aogu Yamada, Satomi Kura, Takeshi KatoNTT DOCOMO: Abstract 这份文件分析了大型语言模型（LLMs）在工业应用中规模化采用面临的挑战，强调了重新发明通用能力的困境、网络通信性能瓶颈、通过工作导向的SLM/LLM基于的AI代理提高生产力，并提出了如基础算法创新、应用工具平台标准化以及云边协作等技术发展趋势。它展示了贡献者服务提供商在人工智能技术、数据集成、应用工具平台以及各种生成式AI应用方面的战略布局，并展望了未来人工智能技术、数据集成和行业合作的发展方向及建议。 前言 KT 利用代理和数据的 AI 转型 随着AI硬件（HW）和软件（SW）技术的迅速发展，生成式人工智能模型不断演进，形成各种版本。与此同时，生成式人工智能代理正迅速渗透到我们的日常生活中。范式的转变——转向实用的人工智能代理竞争，与处理和适应大量客户数据密切相关，反映了用户对生成式人工智能的需求。随着人工智能技术的进步，企业在活动中的数据重要性愈发显著，“利用人工智能进行企业转型”中的数据驱动型人工智能代理成为核心。要在AX领域取得成功，必须有效地收集和利用企业活动中的数据，并且人工智能公司的主要创新必须以数据驱动的方式推动这一进程。 在“人工智能代理时代”，随着AI成为企业及个人日常服务的核心，KT正通过利用人工智能代理这一成功转型方向，致力于提升自身的AI竞争力，以成为一家AICT公司。在多模型线战略下，KT计划结合其自主研发的人工智能语言模型Mi:dm和基于开源的模型，提供多种针对客户和行业特定需求的模型和AI代理，基于高质量数据的学习与应用。KT的目标是通过使用工作AI代理提高员工的工作效率，并计划通过将其应用于Genie TV为客户提供新的AI体验。通过开发这些AI代理并推出相关服务，KT期望收集客户AI数据，并利用这些数据构想特定的AI商业模式。通过全面提供模型即服务（MaaS）以及在全球范围内推动AI代理技术/业务合作，KT将引领AI市场的竞争和生态系统建设。 NTT DOCOMO 的数字化转型战略之旅 和增强的客户体验 NTT DOCOMO（DOCOMO）将目标定位在通过业务管理数字化提升客户体验和改革业务结构，并将数据利用的推广与执行作为我们至2025年的中长期战略。docomo在数字化转型方面的举措包括通过数据利用优化网络、人工智能和人力资源培训，以及推动数字营销。为增强竞争力，docomo提供了基于图像识别、语音识别和客户分析的人工智能平台。 自2014年以来，软银已经构建了一个大数据基础设施，从近1亿用户和超过27万个基站收集用户信息、使用历史、网络流量和支付历史等数据，以促进业务管理和数据利用的数字化转型。该平台整合了来自商业合作伙伴的外部数据和AI技术，在诸如出行即服务（MaaS）、零售、银行以及元宇宙等多个业务领域创造价值。 利用生成式AI等新技术寻找新的收入来源并扩大业务并非易事。这需要战略规划，包括人员培训，并且需要大量的尝试与错误。DOCOMO 不仅专注于开发生成式AI的基础技术，还积极开展了各种举措来创建应用场景并通过持续的试验和优化来培训人员。 中国移动向 AI + 转型放大规模赋权 在中国移动作为全球最大的移动通信运营商面对变革浪潮之际，始终锚定其战略定位为“世界一流的信息服务与技术创新公司”。 在网络计算基础设施方面，已经构建了一个拥有最广泛覆盖范围和最大用户规模的通信网络，其中5G基站超过190万个，占全球总数的30%，连接78个国家的超过90个陆海缆系统，以及全球运营商中规模最大的单一智能计算中心，配备有18000块GPU卡。 九天，一系列涵盖语言、视觉、语音、结构化数据和多模态的大规模基础模型被构建起来，在此基础上推出了超过40个行业大模型，形成了包括平台、能力及大规模应用在内的全面AI产品组合。超过10,000个“AI+”项目已被启动，以促进能源、制造业、医疗护理、交通等行业智能化和绿色发展的各个方面。 在这一过程中，注意到从“AI+”过渡标志着人工智能技术从单纯的技術应用转变为深入融合于工业发展中的全面赋能。这一过程面临的挑战包括 大型语言模型在关键任务执行中的局限性，由重复开发常见能力导致的资源浪费，以及网络通信瓶颈效应。 为了应对这些挑战，中国移动呼吁行业各方共同构建全面的“AI+”产业生态系统，以促进基础算法层面的创新、应用工具平台的标准化以及云边协作的新模式。 1 LLM 行业采用策略 人工智能，作为新一代信息技术的代表，正迅速成为推动新质量生产力的重要力量。其中，基于大规模语言模型（LLMs）的生成式AI技术正在显著赋能各个行业，导致AI模型在各行业的应用呈爆炸性增长，预示着一场信息技术与产业革命的到来，其中信息服务体系与经济和社会运行系统深度融合，深刻改变人们的生活方式和生产模式。 大规模语言模型（LLMs）在当前工业应用中展现了广泛而深刻的影响，已成为企业数字化转型的关键工具。从知识管理到处理复杂任务，LLMs正逐步融入核心业务流程。一个显著的应用是检索增强生成（RAG），该方法结合外部知识库与生成能力，有效应对复杂查询。特别是在客户服务领域，LLMs帮助公司从大量内部文档中提取精确答案，从而提升服务效率。此外，LLMs在构建和管理企业知识库方面发挥重要作用，通过自然语言理解和知识提取技术促进智能查询和更新。在处理复杂任务时，LLMs展现出强大的能力，如自动化报告撰写、营销文案生成和代码生成，显著提升了生产效率并实现了业务流程的自动化。LLMs还广泛应用于自动化客服系统，其对自然语言的深入理解使它们能够处理传统聊天机器人难以应对的复杂客户意图和情境交互。此外，LLMs通过生成个性化内容为推荐系统贡献力量，提供精准建议以帮助企业提高客户满意度。为了实现这些应用，LLMs利用多种技术优化其在特定场景下的表现。企业在采用LLMs时可以根据技术需求和应用场景的不同采取不同的策略。对于技术门槛较低的应用，企业可以通过整合领域特定的知识库快速部署L0和L1模型，这种方法适用于需要快速实施且无需进行密集模型优化的情景。在需要领域特定定制的情况下，可以通过上传自定义数据集并应用低代码配置来微调L0模型，生成适应特定任务的L1模型。这种方法适用于数据6 积累和模型适应能力是必要的，这将允许企业对特定的商业需求作出更为精准的响应。对于具有更高技术要求和更复杂应用场景的应用程序，企业可以采用全面的模型开发流程，涵盖数据收集、处理、预训练和微调，以确保模型在复杂应用中的性能和稳定性，并满足高精度、高可靠性的运营需求。此外，通过多模型收敛平台实现大语言模型（LLM）的部署，可以促进更广泛的协作应用。企业可以利用模块化插件和集中式代理来构建集成了多个模型的复杂业务系统，从而推动跨行业的应用扩展并满足复杂的应用生态系统的需求。 总结而言，大规模语言模型（LLMs）的工业应用涵盖了从基本知识库集成到全面模型定制及多模型管理等多个层面，形成了一个从低技术门槛到高度定制化的多层次应用系统。通过这些多样化的手段，LLMs正在推动智能产业的发展，为各行业提供灵活且个性化的解决方案，并赋能企业实现高效运营和智能化决策能力。 2 新兴挑战和技术预见 随着以数字智能为特征的第四次工业革命的深入发展，传统行业与AI技术之间的相互融合趋势日益明显，旨在应对大规模采用LLM（大型语言模型）所面临的新兴挑战：一方面，深化行业信息资源和数据治理的整合为LLM应用创新提供了所需的原始数据材料；另一方面，持续创新的LLM算法和工程工具解决了大规模生产环境应用的实际适用性和经济性问题。 2.1 AI 应用视角 挑战:大型语言模型目前不具备直接应用于生产环境中的关键决策过程的能力。 远见 ：在基础理论创新方面，推动推理加速、全流程自主控制（在基本算法层面），以实现人工智能代理的自主认知、自主进化和自主突破。 当前，大语言模型（LLMs）作为强大的信息处理工具，能够执行诸如自然语言处理、图像识别、语言翻译、文本生成和图像识别等任务。然而，大语言模型本身缺乏环境感知能力，并不具备自主性和主动决策能力，通常需要人类的输入或触发来完成处理。 以preset的方式提供信息。因此，他们在执行动态和复杂任务时面临困难，因为这些任务通常要求对现实世界的感知和理解能力、适应环境变化的能力以及与目标一致的决策能力。因此，未来基本算法层面的创新将集中在以下领域： 自主认知未来算法将更加注重智能代理的自主认知能力，使它们能够更好地理解并预测环境，具备增强的感知、推理和决策能力，并能在复杂环境中实现更高的适应性。 自主进化算法将被设计为自我进化，通过机器学习不断优化其性能。智能代理将能够从经验中学习，自动调整行为以适应新的任务和环境，从而提高其泛化能力。 自主突破为了实现更高的智能化水平，算法需要能够在没有人类干预的情况下自行取得突破。这涉及到创新性的算法设计，使AI代理能够发现新的解决方案，并在某些情况下甚至超越人类专家的表现。 此外，为了支持上述能力的发展，算法和AI代理操作优化与控制技术也需要迭代创新，包括推理加速技术以提高AI代理对复杂任务的响应性和效率，以及全流程自主可控算法以确保其稳定性和可靠性。 挑战:大量的通用能力的垂直重复开发导致资源浪费，并减慢了更新和升级的速度。 远见 ：应用工具平台的兴起，这些平台以语言模型（LLMs）为基础并集成特定领域的知识库，通过插件和工具增强专业能力的同时，仍保留了基本能力以支持AI代理定制开发。 在当前