关于人工智能治理，10个问题应该被问及：代理型AI风险与金融服务业韧性

金融机构的风险治理架构建立在人类速度决策的假设之上，而自主型人工智能（AI）改变了这一基础。AI的自主性和快速性导致风险环境发生四大变化：

1. 自主权风险：AI系统可以规划多步任务、调用工具并选择不同路径，现有模型风险框架无法有效审计其决策链。
2. 对抗风险：恶意行为者通过对抗性技术攻击AI系统，例如2025年一个企业级AI助手因精心构造的电子邮件被攻击。
3. 相关风险：AI系统在相似数据或目标下可能产生关联行为，如1987年股灾中程序同时触发导致市场崩盘。
4. 检测延迟：AI缺陷可能持续运行数周或数月，风险累积后才显现，如信用损失或模型漂移。

治理挑战体现在：

• 责任真空：多数机构缺乏对AI系统的明确负责人，高管通常仅对业务服务负责而非具体AI系统。
• 监管失效：传统加强监管方式无法应对AI的机器速度风险，需转向AI驱动的持续监控。

两大治理优先事项：

1. AI影响映射：识别AI在决策中的具体作用，包括第三方工具中的AI应用，形成决策层面的登记册。
2. 失败计划制定：为关键AI系统制定故障应对方案，类似于信用损失准备金或流动性压力测试。

核心问题示例：

• AI系统做出何种决策？错误决策的后果？
• 谁对AI系统负有个人责任？
• AI是自主运行还是需人工批准？
• 如何检测AI的异常行为？人类察觉前可能造成的损失？
• 如何应对AI系统间的关联风险？

结论：金融领域AI应用的关键在于治理能力，而非模型性能。机构需将AI治理视为战略能力，构建机器速度下的韧性，以应对AI风险。监管机构如新加坡金融管理局和香港金融管理局已发布相关指引，推动AI治理制度化。