Develop a robust AI safety and governance plan

核心观点与关键数据

• AI安全与治理的重要性：到2026年，实现AI运营的组织透明度、信任与安全性将使AI模型的采用提升50%。AI普及化将重塑威胁格局，对攻击者和防御者带来网络优势，同时增加信息安全治理的复杂性。
• AI的经济影响：生成式AI预计将提升全球国内生产总值在接下来十年中增长7%以上。
• AI安全风险：通用AI对安全的冲击最令人担忧，包括钓鱼、恶意软件开发、深度伪造数据泄露、个人资料曝光等。
• 负责任AI原则：奥纬咨询提出负责任AI原则，包括公平、安全、问责制、可持续性、透明度、可解释性、准确性、合规性、数据隐私和网络安全。

AI安全与治理的5步法

1. 发现AI模型：列出所有AI模型，包括影子AI，确保对AI景观的每个方面都具有可见性。
2. 评估AI模型风险：评估与IaaS和SaaS相关的数据和AI模型的风险，并按照全球监管要求对AI模型进行分类。
3. 映射数据+AI流程：将AI模型连接到数据源、数据处理路径、供应商、潜在风险和合规性义务，并持续监控数据流动。
4. 实施数据+AI控制：建立对模型输入数据的控制，确保敏感数据在其整个生命周期中得到保护。
5. 坚信地合规：检查符合全球AI标准，如NIST AI RMF、欧盟AI法案等，降低法律和声誉风险。

安全通用人工智能的建议

• 采用以通用AI驱动的网络安全系统防御解决方案。
• 在GRC模型中添加AI安全（治理、风险和合规）。

工具与资源

• Securiti AI信息：促进数据与AI的安全使用。
• 我的安全诊断工具：快速识别影子AI并评估AI风险。
• AIGovernance.center：了解更多AI治理认证信息。
• IDC MarketScape：数据隐私合规软件资源。
• IAPP AIGG24：AI治理相关课程。