金融领域大型语言模型应用：负责任采用路径

摘要

本报告总结了 2024 年 6 月由欧洲证券和市场管理局 (ESMA)、艾伦·图灵研究所和路易·巴歇学院共同组织的关于大型语言模型 (LLMs) 在金融业应用的研讨会讨论内容。研讨会汇集了约 40 位技术和金融专家，讨论了 LLMs 在金融业的应用现状和潜在应用、使用 LLMs 的风险和挑战，以及确保其负责任采用所需的步骤。

LLMs 的当前使用和潜在应用： LLMs 已越来越多地用于金融业，以提高涉及文本分析和生成的任务的运营效率。它们被用于自动化合规流程、生成自动报告、改进客户服务、分析市场情绪、进行风险评估和生成投资见解。金融业中 LLMs 的主要潜在应用领域包括公共沟通和客户参与、金融服务安全、金融洞察生成以及融资和投资活动。

LLMs 的潜在危害： LLMs 的使用可能带来多种潜在危害，包括人权危害、福祉危害、代表性危害、服务质量危害以及法律和声誉危害。研讨会参与者认为，服务质量危害和法律和声誉危害是风险最高的领域。

负责任采用： 为了负责任地采用 LLMs，金融机构需要解决五个主要问题：鲁棒性、数据依赖性和不对称性、安全和隐私、公平性和偏差，以及问责制和可解释性。研讨会讨论了针对这些问题的挑战和缓解方法，例如微调、检索增强生成 (RAG) 和事实核查机制，以及合成数据的使用。

培训和研究： 研讨会参与者强调了对员工进行适当培训以及制定全面内部政策的重要性。此外，与会者还讨论了 LLMs 的碳足迹，并认为需要仔细评估其环境影响。

监管框架： 在欧盟，人工智能法案为 LLMs 的开发者和部署者设定了要求和义务。该法案遵循基于风险的 方法，并引入了透明度要求和额外的风险管理义务。

结论： LLMs 在金融业的应用正在不断发展，金融机构需要解决各种挑战，以确保负责任地采用这些技术。通过解决鲁棒性、数据依赖性、安全和隐私、公平性和偏差以及问责制和可解释性问题，金融机构可以利用 LLMs 的潜力来提高效率、改善客户体验并推动创新。