麦肯锡近期调查发现,尽管多数欧盟企业已使用生成式AI,但71%的企业AI风险管理尚不成熟。欧盟《人工智能法案》作为全球首部生效的AI法规,将对组织产生广泛影响。该法案将AI系统分为“禁止”、“高风险”和“非高风险”三类,并对高风险系统设定严格规则。
调查显示,组织在数据管理方面相对准备充分,但在治理、模型风险管理和个人权利管理方面存在明显不足。近50%的组织尚未为AI法案实施分配预算,且多数组织的投入预算低于200万欧元。超过50%的受访者对AI法案要求不明确,且对自身AI应用场景的风险分类不确定。
组织面临的主要挑战包括:法规复杂性、第三方风险管理不足、数据治理不完善、技术人才短缺等。尽管成本和伦理问题未被列为主要障碍,但近半数受访者表示尚未解决数据管理要求,尤其是偏差问题。
麦肯锡建议组织采取“定义您的世界”方法,优先明确模型使用、风险和法规透明度,并进行AI系统风险分类。组织应加快规划步伐,制定涵盖战略、风险偏好和实施路线图的全面计划,并确保跨功能协作。同时,监管机构需进一步明确期望,与行业合作寻找实用解决方案。
研究结论表明,负责任且可信赖的AI是数字未来的关键。通过拥抱AI治理,企业能在消费者、竞争对手和股东的信任支持下推动创新。欧盟AI法案的出台标志着全球AI监管的重要进展,可能为其他地区提供范例。