管理解释：监管机构如何解决人工智能的可解释性

核心观点

金融机构越来越多地采用人工智能（AI）模型，但其复杂性和有限的可解释性对监管机构和消费者构成了挑战。现有模型风险管理（MRM）指南在应用于AI模型时存在困难，因为AI模型（尤其是深度学习和大型语言模型）难以解释。

关键挑战

• 可解释性技术局限性： 现有的可解释性技术（如LIME和SHAP）存在准确性、不稳定性、灵敏度、泛化能力和易受误导等问题，难以完全解释复杂AI模型的行为。
• MRM指南应用困难： 现有的MRM指南通常未针对AI模型的特殊性进行调整，导致金融机构难以满足相关要求，尤其是在使用第三方AI模型时。
• 不同AI模型的挑战： 生成式AI（GenAI）由于其通用性和训练数据的复杂性，在评估和测试方面更具挑战性。
• 利益相关者需求差异： 不同利益相关者（如监管机构、消费者）对AI模型可解释性的需求不同，需要根据具体场景进行调整。

解决方案建议

• 调整MRM指南： 监管机构应审查和调整现有的MRM指南，以更好地适应AI模型的特性，包括：
  • 解决模型在监管资本目的之外的使用问题。
  • 认识到AI模型的发展趋势。
  • 根据风险程度定制可解释性要求。
  • 要求金融机构采用可解释性技术解释黑盒模型。
  • 建立可接受的解释性标准。
  • 要求补充性保护措施，如加强数据治理和人类监督。
• 权衡可解释性和模型性能： 允许使用可解释性有限但性能优越的复杂AI模型，但需引入充分的保护措施，例如：
  • 限制模型的使用范围。
  • 对模型输出施加下限约束。
  • 加强模型监控和稳定性测试。
• 提升监管机构能力： 监管机构需要投入资源提升员工评估AI模型的能力，以确保金融机构能够安全有效地使用AI技术。

研究结论

AI模型的可解释性问题对金融监管机构构成了重大挑战。监管机构需要调整现有的MRM指南，并采取适当的措施来管理AI模型的风险，同时确保消费者利益和金融稳定。在可解释性和模型性能之间进行权衡，并引入充分的保护措施，可以帮助金融机构更好地利用AI技术的优势。