执行摘要
随着人工智能能力的不断改进，关键基础设施（CI）运营商和提供商寻求在其企业中整合新的AI系统。AI的采用可能会导致更强大的系统、业务运营的改进以及检测和应对网络威胁的更好工具。然而，AI系统也会引入新的网络威胁，这些威胁需要CI提供商应对。AI风险具有两面性，既包括恶意使用AI系统的情况，也包括AI系统本身的漏洞或故障。
背景和AI应用
研报分析了各联邦部门和机构对白宫AI行政命令第4.3节提交的报告，发现CI领域当前AI应用情况存在模糊性，难以评估AI应用深度。AI在CI中的应用分为IT、OT和特定于部门的用例。IT应用场景利用AI来补充现有的网络安全实践，OT应用场景有限，特定领域的AI应用场景旨在提高CI的可靠性、稳健性和效率。
风险、机遇和障碍
AI风险包括恶意使用AI系统和AI系统本身的漏洞或故障。AI机遇包括异常检测、运营意识和预测分析等任务。AI采用障碍包括数据隐私问题、扩大的网络安全攻击面、AI系统的复杂性、合规性、法律责任以及监管要求，以及对具备AI相关技能的劳动力的需求。
观察结果
研讨会参与者识别出四个共同趋势：不同行业和部门间CI提供商之间的资源差距、界定与人工智能和网络安全相关问题的界限的困难、组织内部对人工智能风险缺乏明确的所有权，以及碎片化监管和指导带来的挑战。
AI与网络安全之间的模糊界限
AI与网络安全之间的界限不清，体现在风险、事件和劳动力三个方面。确定某个与人工智能系统相关的风险是否属于人工智能风险或网络安全风险并不明确。存在类似模糊性，即哪些事件被归类为网络事件、AI事件、安全事件、伦理事件，或者这些类别中的某些组合。预测哪些劳动力CI组织将需要利用AI并应对AI驱动威胁所带来的挑战是困难的。
AI风险管理挑战
AI风险管理需要将AI风险管理整合到现有流程中。然而，在当前的企业结构中，AI风险的所有权却可能存在模糊性。AI风险管理要求形成一种“风险意识文化”，重点在于减少造成危害的可能性而非仅仅满足一系列要求的清单。
碎片化的指导和监管
研讨会参与者对拼凑的安全性和数据保护要求表示困惑和不确定性，特别是在州级层面。监管协调将有助于CI运营商规划未来并更好地评估与AI采用相关的风险。政府指导针对关键基础设施（CI）领域时，由于其普遍性，在实际操作中往往难以具体落实。
建议
- 信息共享： SRMA应利用现有平台进行AI安全信息分享，CI部门应考虑建立一个集中的AI安全和安保分析中心，CI运营方和提供商应共享与AI相关的事件、威胁、漏洞和最佳实践信息。
- 发展劳动力： 联邦和州政府机构应资助培训项目及其他劳动力发展举措，CI部门应协调劳动力发展努力，CI运营商和提供商应积极提高现有员工的技能。
- 政府部门和机构： 协调与CI相关的法规，与部门合作伙伴合作，为每个部门量身定制和实施指导，支持相关基础设施以测试和评估AI系统，扩大生态系统监测工作。
- CI部门： 制定最佳实践，扩大和支持互助。
- CI运营商： 将AI风险管理集成到企业风险管理中，明确对AI风险管理的所有权，在采用新的AI技术之前，请保持谨慎并保持充分了解。
- AI开发者： 参与透明度最佳实践，通过开发AI可解释性和可解释性。
