金融机构的风险治理架构建立在人类速度决策的假设之上，而自主型人工智能（AI）改变了这一基础。AI并未消除问责制，但改变了其执行机制，从人类速度的风险管理转向机器速度的风险管理。
核心挑战：
- 自主权风险：AI可以规划多步任务、调用工具，并选择不同路径，现有模型风险框架无法有效验证其决策链。
- 对抗风险：恶意行为者通过对抗性技术攻击AI系统，例如2025年一个企业级AI助手因精心构造的电子邮件被窃取内部数据。
- 相关风险：AI系统在相似数据和目标下可能产生关联行为，如1987年股灾中程序同时触发导致市场崩盘。
- 检测延迟：AI模型缺陷可能隐藏数周或数月，风险累积后才显现，如信用损失、模型漂移等。
治理差距：
- 机构责任范围与实际监管能力之间存在差距，现有治理架构围绕个体风险类型组织，而AI具有横向穿透性。
- 高级问责制度（如英国“高级管理人员和认证制度”）尚未与AI系统映射，多数机构缺乏明确负责人。
应对策略：
- 将AI视为新风险环境的来源和管理工具，利用AI持续监控模型漂移、异常行为等。
- Project Glasswing：利用AI检测漏洞，如扫描1000个开源项目发现6000个高等级漏洞，检测率提高十倍以上。
- 人类判断仍重要，但需聚焦于更关键的决策集中。
2026年治理优先事项：
- AI影响风险决策的地图：识别AI在信贷审批、定价、欺诈检测等决策中的影响，包括第三方工具中的AI。
- 制定失败计划：为关键AI系统制定故障应对方案，说明其表现和客户处理方式。
董事会需回答的关键问题：
- AI系统是自主运行还是需人工批准？责任主体是谁？
- AI系统影响何种决策？错误决策的后果是什么？
- 能否解释AI决策？人类察觉前可能造成多大损失？
- 关闭AI系统的能力和速度？哪些决策已排除自动化？
- 相同模型、供应商或数据的竞争对手系统是否存在关联风险？
- 上次尝试破解AI系统的时间及结果？
监管机构关注：
- 新加坡金融管理局、香港金融管理局已发布AI治理指引。
- 澳大利亚CPS 230要求董事会负责关键AI系统的运营弹性。
- 日本金融服务局通过公私合作推进AI治理。
结论：
金融领域AI应用的下一阶段在于构建治理制度能力，理解AI运作方式、优化目标、失败风险及机器速度后果。将AI治理视为合规性工作的机构会构建传统框架，而视为战略能力的机构则会构建AI速度韧性，这对信任行业至关重要。机器速度的风险不会等待人类速度的治理。
