这份研报主要分析了亚太地区企业在人工智能治理方面的现状和挑战。报告指出,亚太地区AI应用已从孤立试点扩展到多个业务功能,但在治理方面存在明显差距,自主性和责任得分较高,可追溯性得分较低。企业最担心AI决策的可靠性和可追溯性,包括错误决策、数据质量、透明度及合规风险。报告还分析了不同行业和市场在AI治理方面的差异,并强调可追溯性是关键挑战,企业需要建立完善的可追溯性机制。
亚太地区AI应用呈现从试点到多领域推广的趋势,分析、运营和客户服务领域应用最广泛。金融服务和IT软件服务业在AI自主代理应用方面最为积极,而电子商务和移动出行平台相对保守。不同行业在AI治理成熟度上存在差异,金融服务和IT软件服务业最为成熟,电子商务和移动出行平台相对落后。未来,企业将更加重视AI治理能力建设,可追溯性将成为强制性要求。
研报重点分析了AI治理的自主性、责任和可追溯性三个方面。自主性要求了解AI的行为范围和操作权限;责任要求在AI部署前明确责任归属,指定负责人并记录系统信息;可追溯性要求维护AI系统的完整清单,确保决策路径可重建,并保留不可篡改的审计追踪记录。报告指出,可追溯性是当前AI治理中的关键挑战,企业需要建立完善的机制来应对。
亚太地区AI治理市场存在明显差距,企业普遍重视AI决策的责任承担,但在可追溯性方面表现不足。泰国、菲律宾和印度在AI治理方面表现较好,中国因严格监管具备较高治理水平,香港和澳大利亚通过现有法律进行监管,新加坡以严谨文化著称,马来西亚则处于监管转型期。不同行业对AI治理的重视程度也不同,金融服务和IT软件服务业最为成熟,物流、快递和网约车平台重视程度最低。
这份研报提示了AI治理中的主要风险,包括AI决策的可靠性和可追溯性风险,如错误决策、数据质量问题、缺乏透明度以及监管合规风险。随着AI自主代理的广泛应用,可追溯性成为关键挑战,企业若缺乏有效证明决策过程的机制,将面临治理风险。此外,不同市场和行业在AI治理方面存在差异,企业需要根据自身情况建立完善的治理体系,以应对未来更严格的监管要求。