您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 IBM:《信任与保障:AI规模化部署的关键|信息技术研报|投资分析》-发现报告

信任与保障:AI规模化部署的关键

信息技术 2026-07-16 IBM 张东旭
信任与保障:AI规模化部署的关键

猜你想问

这份研报主要讲了什么内容?

这份研报探讨了电信运营商(CSP)在规模化部署AI系统时面临的信任与保证挑战。报告指出,虽然多数CSP认为其AI系统值得信任,但仅有少数能提供外部可审核的证据。AI误用或恶意行为可能导致严重后果,因此CSP需要建立AI治理计划,确保AI的安全、可靠和透明。AI保证作为治理计划的关键部分,提供了证明AI系统行为符合预期的证据。研报还分析了CSP在AI部署、风险政策、技术挑战等方面的现状,并提出了AI保证的构建方向和未来发展建议。

AI在电信运营商赛道的发展趋势如何?

在电信运营商赛道,AI的发展正从积极部署转向关注信任与保证。当前,约40%的CSP已将AI应用于IT、网络和运营管理等领域,但安全领域的部署率较低。随着AI系统自主性的增强,建立完善的AI保证机制将成为关键问题。未来,CSP需要从“相信治理足够”转变为“能对外证明”,采用持续保证替代定期认证,并将数据治理、隐私、网络安全等整合到统一模型中。严格的国家级AI法规可能为CSP提供建立保证计划的先机,但行业仍需就“证据”形式达成共识,并确保治理方法灵活适应AI技术发展。

研报重点分析了哪些方向?

研报重点分析了电信运营商(CSP)在AI规模化部署中的信任与保证问题。核心方向包括:1)CSP信任与证据的差距,即从主观信任到客观证明的转变需求;2)AI治理计划的构建,涵盖数据治理、隐私保证、网络安全保证等;3)AI保证的功能需求,涉及AI模型和代理的使用部署;4)治理与保证的演进,从定期认证到持续运营,以及机器可读控制集成。此外,报告还关注了CSP在AI安全部署、风险政策、技术挑战等方面的现状,以及AI保证的早期发展阶段和未来发展方向。

当前AI市场在电信运营商领域的现状如何?

当前AI市场在电信运营商(CSP)领域的现状呈现以下特点:1)信任与证据脱节,72%的CSP认为AI值得信任,但仅18%能提供外部可审核证据;2)部署不均衡,约40%的CSP在IT、网络和运营管理领域部署AI,但安全领域部署率低;3)技术挑战突出,85%的CSP认为技术障碍是扩展AI业务的主要问题;4)风险控制不足,41%-46%的CSP在安全、IT等领域缺乏AI风险政策或控制措施。整体而言,CSP正面临从AI积极部署到信任保证的过渡阶段,但相关角色、结构和技术要求尚未明确。

研报提示了哪些风险需要注意?

研报提示了电信运营商(CSP)在AI规模化部署中需关注以下风险:1)信任危机风险,AI误用或恶意行为可能导致网络中断、数据泄露等严重后果,若无法提供保证证据可能引发信任危机;2)技术实施风险,85%的CSP面临技术挑战,包括AI模型部署、治理控制机器可读化等;3)合规风险,随着AI自主性增强,缺乏明确保证标准和法规可能导致合规风险;4)证据标准风险,目前行业尚未就“证据”形式达成共识,可能影响外部审计和保证效果。此外,治理和保证方法需保持灵活性以适应AI技术发展,否则可能因技术迭代导致原有措施失效。