2024年AI安全状况报告：揭示云计算中AI风险的普遍性

2024 年 AI 安全报告揭示了云环境中 AI 风险的普遍性。报告主要发现如下：

1. AI 应用广泛：56% 的组织采用 AI 构建定制应用，其中 Azure OpenAI 使用率最高（39%），Sckit-learn 是最常用的 AI 包（43%），GPT-35 是最受欢迎的 AI 模型（79%）。
2. 默认设置安全隐患：AI 服务默认设置倾向于开发速度而非安全性。例如，45% 的 Amazon SageMaker 存储桶使用非随机默认名称，98% 的组织未禁用 Amazon SageMaker 笔记本实例的默认 root 访问。
3. 漏洞风险：62% 的组织部署的 AI 包至少包含一个 CVE，但这些漏洞多为低到中等风险（平均 CVSS 分数 6.9），且仅有 0.2% 存在公开漏洞。

报告还分析了 AI 安全风险，包括：

• 不安全访问：20% 的 OpenAI 组织和 35% 的 Hugging Face 组织存在暴露的 API 密钥，81% 的 OpenAI 暴露密钥存储在提交历史中。
• 配置错误：77% 的 Amazon SageMaker 组织未配置 IMDSv2，98% 的组织未禁用 Amazon SageMaker 笔记本实例的 root 访问，27% 的 Azure OpenAI 组织未配置私有端点。
• 加密不足：几乎所有组织未对自管理的加密密钥启用静态加密。

报告建议采取以下措施加强 AI 安全：

1. 避免 默认设置。
2. 管理漏洞。
3. 限制权限。
4. 隔离网络。
5. 保障数据安全。
6. 遵循最佳实践。

报告还介绍了 Orca 的 AI Goat 项目，这是一个基于 OWASP Top 10 ML 风险的开放源 AI 安全实践环境，用于测试和学习 AI 漏洞。