核心观点与关键数据
- AI 应用现状：全球企业对 AI 技术的采用率已达 91%，并预计在 2024 年将带来超过 24% 的改进，包括客户体验、业务弹性、可持续性和运营效率的提升。
- AI 风险与挑战：AI 系统可能存在偏见、安全漏洞、数据隐私问题、版权侵权等风险，导致信任度下降和潜在的法律问题。
- AI 责任制：IDC 将责任制 AI (RAI) 定义为以公平、可靠、安全、隐私、包容、透明和问责的方式设计、开发和部署 AI。RAI 有助于企业降低风险、提升品牌声誉和客户信任。
- AI 采用障碍：超过 30% 的企业表示，缺乏治理和风险管理解决方案是 AI 采用和扩展的主要障碍。此外，超过 75% 的企业表示，RAI 解决方案有助于数据隐私、客户体验、业务决策、品牌声誉和信任。
- 区域差异：北美在 AI 治理结构和技术的使用方面领先于 EMEA、拉丁美洲和亚太地区。区域差异主要体现在治理框架的建立和技术应用方面。
研究结论与建议
- RAI 工具：企业正在使用各种工具来确保 RAI，包括软件监控工具和人工监督。RAI 工具和技术正在快速发展，预计未来 12-18 个月将出现更多解决方案。
- 预算分配：约三分之一的受访者计划利用 RAI 软件和专业的服务支持。企业将预算分配给 AI/ML 治理工具、专业服务、AI/ML 开发平台/机器学习操作 (MLOps) 工具等。
- 监管环境：全球 AI 监管环境正在动态发展，EU AI 法案和美国数据隐私保护法是当前企业需要重点关注的法规。企业需要遵守不断变化的 AI 法规，并使用专业服务和治理工具进行负责任的 AI 部署。
- AI 采用趋势：企业正在将 AI 应用于软件开发、IT 任务自动化、欺诈检测和网络安全、产品和服务创新、业务流程自动化、客服等场景。未来三年，IT 运营和 IT 服务管理将成为 AI 投资的重点领域。
- 建议：企业应建立 AI 原则、避免创建或强化不公平偏见、构建和测试安全措施、建立 AI 治理委员会、制定内部和外部 AI 使用政策、促进透明度和可解释性、实施多样化测试标准、定期进行 AI 审计、优先考虑隐私和数据保护、投资 AI 培训。
AI 治理框架
- 基础设施治理：在具有适当安全和隐私控制的基础设施上运行 AI 系统，以防止敏感数据或 IP 泄漏。
- 模型治理：制定政策和流程来控制 AI 模型的设计、开发和部署，并加强对第三方基础模型提供者的治理。
- 应用层治理：在生成式 AI API 的用户界面中插入治理控制，以防止基础模型被用于危险或非合规的方式。
- 最终用户治理：制定行为准则、记录最终用户交互、实施人工审核，以防止生成式 AI 输出被未经人类反馈或输入就使用。
总结
企业需要将 RAI 作为核心战略，通过建立治理框架、使用 RAI 工具和技术、投资培训等措施，确保 AI 的负责任使用，从而实现可持续的商业价值和社会责任。
