优化治理以加速生成式AI部署

核心观点

• 治理和安全至关重要：电信公司需要实施全面的 AI 治理策略和框架，将治理和安全集成到 AI 开发和部署的每个阶段，以确保 AI 技术的道德、负责和合法使用。
• 数据和 AI 模型治理密不可分：数据治理和 AI 模型治理对于大规模部署 GenAI 至生产环境至关重要。糟糕的数据质量会导致有缺陷的 AI 输出，而自动化会放大这些问题。
• 准确性驱动价值：电信公司正在使用专有数据微调小型语言模型 (SLM)，并投资于检索增强生成 (RAG) 管道和特定领域的模型训练，以降低成本并提高准确性。
• AI 中心 excellence 是迈向 AI 原生组织的垫脚石：AI 中心 excellence 是管理风险和合规性的重要第一步，但过度集中可能会扼杀创新。
• ODA 在不断演变以优化 AI 治理：TM Forum 的开放数字架构 (ODA) 正在不断发展，以帮助电信公司应对数据和 AI 治理挑战，并确保跨多供应商生态系统进行合规性。

关键数据

• 88% 的生成式 AI (GenAI) 试点项目从未达到生产环境。
• 95% 的 GenAI 工具未能实现预期的投资回报率 (ROI)。
• 中国的三大电信运营商在部署生成式和代理式 AI 方面处于全球领先地位。
• 不到 20% 的受访者表示他们正在部署多个 GenAI 用例。
• 只有 18% 的受访者报告了在将 GenAI 用例投入生产方面取得了“相当大的进展”。
• 41% 的受访者报告了在 GenAI 部署方面进展有限或没有进展。

研究结论

• 电信公司需要将治理嵌入到 AI 工作流程中，并实施 AIOps、MLOps 和 LLMOps 等平台，以实现 AI 原生状态。
• 电信公司需要平衡集中式治理和分布式创新，以避免创新受到扼杀。
• 电信公司需要制定战略计划，以解决扩展代理式 AI 解决方案到生产环境所面临的挑战，包括数据质量、基础设施和人才差距。