管理解释：监管机构如何解决人工智能的可解释性

摘要

人工智能（AI）在金融机构中的广泛应用正改变其运营、风险管理和客户互动方式。然而，复杂AI模型（如深度学习和大型语言模型）的可解释性有限，为金融机构和监管机构带来了重大挑战。可解释性对于透明度、问责制、监管合规和消费者信任至关重要，但复杂AI模型往往难以解释。现有可解释性技术存在局限性，包括准确性、不稳定性和误导性解释的风险，这使得管理模型风险变得困难。

全球标准制定机构已发布模型风险管理（MRM）要求，但主要侧重于监管目的，且对AI模型的特殊性考虑不足。许多国家金融当局尚未发布具体指南，且现有指南可能未针对先进AI模型制定，也未明确提及模型可解释性概念。复杂AI模型难以满足这些规定，而使用第三方AI模型会加剧这些挑战。

随着金融机构将AI模型应用于关键业务领域，金融监管机构需要寻求促进与AI相关的稳健MRM实践。这可能需要承认可解释性与模型性能之间的权衡，只要风险得到适当评估和有效管理。允许使用可解释性有限但性能优越的复杂AI模型，可以更好地管理风险和提升客户体验，但需要引入充分的保障措施。对于监管资本用途，复杂AI模型可能受限于特定风险类别和敞口，或受输出地板约束。监管机构还必须投资于员工技能提升，以有效评估AI模型，确保金融机构能够在不影响监管目标的情况下利用AI的潜力。

MRM指南可能需要要求金融机构使用本质上可解释的AI模型，或至少采用足够信息丰富的可解释性技术来解释黑盒模型。可能需要根据模型的潜在影响和风险程度建立可解释性标准，并要求补充保障措施，如增强数据治理和人工监督，以减轻在关键业务领域使用复杂AI模型相关的风险。监管机构还需要提升员工技能，以理解企业的可解释性提交。