执行摘要
人工智能（AI）技术，尤其是生成式AI（GenAI），为金融服务行业带来了新的转折点。虽然AI提供了巨大的机遇，但金融机构在AI的未来应用方面才刚刚起步。FS-ISAC的AI风险工作组汇集了金融、风险、技术和网络安全领域的专家，帮助机构预测AI实施过程中可能出现的问题和不确定性，并理解AI在金融服务中的挑战。报告预测了GenAI工具在现实场景中的短期、中期和长期影响，并提出了一系列问题，帮助机构理解和管理自身的AI风险。
定义AI和AI能力
报告建议金融机构根据自身目标定义AI，并重点关注生成式AI，特别是大型语言模型（LLMs），因为它们在知识管理方面具有巨大潜力。LLMs在推理、阅读理解、数学问题解决和计算机编程等方面表现出色，甚至超越了许多人类的平均水平。然而，当前AI系统缺乏自主性和独立整合知识的能力。
AI的未来使用和不确定性
报告将AI的未来使用分为五个阶段，从确定性到不确定性逐渐增加。每个阶段都伴随着不同的挑战和风险，机构需要根据不同阶段的特点制定相应的策略和措施。
GenAI的潜在挑战
报告列举了GenAI使用中可能面临的挑战，包括：
- 人才短缺：缺乏AI技术人才会增加操作风险，如配置错误、维护不足等。
- 创造性破坏：AI的引入将改变工作方式，需要明确哪些任务可以自动化，以及如何应对由此带来的劳动力变化。
- 错误容忍度：AI输出可能存在错误，需要定义可接受的错误范围，并建立相应的审核机制。
- 过度自信：员工可能过度依赖AI输出，而忽视其潜在的错误和不完整性。
- 过度依赖：在危机情况下，过度依赖AI可能导致系统瘫痪，需要建立备用方案。
- 规则和法规：全球AI监管环境仍在发展中，机构需要不断调整治理和合规策略。
- 版权问题：AI生成内容的版权归属问题日益突出，机构需要谨慎使用AI生成内容，并建立相应的数据追踪和控制机制。
- 能源需求：AI技术需要大量的能源支持，机构需要考虑能源供应和成本问题。
- 环境影响：AI技术的使用会导致碳排放增加，机构需要考虑可持续发展问题。
短期、中期和长期考虑
报告分别探讨了AI在短期、中期和长期可能带来的影响和挑战，并提出了相应的应对策略。
准备GenAI未来使用的建议
报告建议金融机构从以下几个方面着手准备GenAI的未来使用：
- 建立AI负责人或团队，跟踪AI资源和项目。
- 建立机制识别和 mitigating Shadow AI。
- 评估AI风险，并将其嵌入风险和控制框架。
- 培训员工与AI交互和支持。
- 确保培训数据的多样性。
- 谨慎使用AI生成内容，避免版权问题。
- 制定应对AI对劳动力影响的策略。
结论
报告认为，AI的未来充满不确定性，但机构可以通过建立“所有风险”方法，制定相应的策略和措施，最大程度地发挥AI的价值，并最小化其潜在风险。
