这份研报探讨了电信运营商(CSP)在规模化部署AI系统时面临的信任与保证挑战。报告指出,虽然多数CSP认为其AI系统值得信任,但仅有少数能提供外部可审核的证据。AI误用或恶意行为可能导致严重后果,因此CSP需要建立AI治理计划,确保AI的安全、可靠和透明。AI保证作为治理计划的关键部分,提供了证明AI系统行为符合预期的证据。研报还分析了CSP在AI部署、风险政策、技术挑战等方面的现状,并提出了AI保证的构建方向和未来发展建议。
在电信运营商赛道,AI的发展正从积极部署转向关注信任与保证。当前,约40%的CSP已将AI应用于IT、网络和运营管理等领域,但安全领域的部署率较低。随着AI系统自主性的增强,建立完善的AI保证机制将成为关键问题。未来,CSP需要从“相信治理足够”转变为“能对外证明”,采用持续保证替代定期认证,并将数据治理、隐私、网络安全等整合到统一模型中。严格的国家级AI法规可能为CSP提供建立保证计划的先机,但行业仍需就“证据”形式达成共识,并确保治理方法灵活适应AI技术发展。
研报重点分析了电信运营商(CSP)在AI规模化部署中的信任与保证问题。核心方向包括:1)CSP信任与证据的差距,即从主观信任到客观证明的转变需求;2)AI治理计划的构建,涵盖数据治理、隐私保证、网络安全保证等;3)AI保证的功能需求,涉及AI模型和代理的使用部署;4)治理与保证的演进,从定期认证到持续运营,以及机器可读控制集成。此外,报告还关注了CSP在AI安全部署、风险政策、技术挑战等方面的现状,以及AI保证的早期发展阶段和未来发展方向。
当前AI市场在电信运营商(CSP)领域的现状呈现以下特点:1)信任与证据脱节,72%的CSP认为AI值得信任,但仅18%能提供外部可审核证据;2)部署不均衡,约40%的CSP在IT、网络和运营管理领域部署AI,但安全领域部署率低;3)技术挑战突出,85%的CSP认为技术障碍是扩展AI业务的主要问题;4)风险控制不足,41%-46%的CSP在安全、IT等领域缺乏AI风险政策或控制措施。整体而言,CSP正面临从AI积极部署到信任保证的过渡阶段,但相关角色、结构和技术要求尚未明确。
研报提示了电信运营商(CSP)在AI规模化部署中需关注以下风险:1)信任危机风险,AI误用或恶意行为可能导致网络中断、数据泄露等严重后果,若无法提供保证证据可能引发信任危机;2)技术实施风险,85%的CSP面临技术挑战,包括AI模型部署、治理控制机器可读化等;3)合规风险,随着AI自主性增强,缺乏明确保证标准和法规可能导致合规风险;4)证据标准风险,目前行业尚未就“证据”形式达成共识,可能影响外部审计和保证效果。此外,治理和保证方法需保持灵活性以适应AI技术发展,否则可能因技术迭代导致原有措施失效。