西班牙：关于人工智能图像和新欧盟法规的西班牙数据保护局

总结

本文探讨了在人工智能（AI）系统中使用第三方图像（包括照片和视频）所带来的可见风险和潜在风险。文章首先指出，将他人图像上传至AI系统进行处理，无论目的如何，均构成对个人数据的处理，且多数情况下未经本人知情同意。

文章将风险分为两类：一是可见风险，二是潜在风险。

可见风险

可见风险主要指对个人造成直接、可感知的损害，并列举了七项关键风险：

1. 合理预期与具体使用合法性：将图像上传至AI系统不等于授权其进行转换、生成变体或传播。
2. 传播范围与扩散便利性：图像一旦上传，可能通过多种渠道大规模扩散，难以控制。
3. 持久性与撤回可能性：若无法有效撤回内容及副本，风险将持续存在。
4. 性化与合成私密内容：AI可能生成性暗示或私密场景，即使平台有限制，仍可能存在漏洞。
5. 虚假事实归属与声誉损害：若图像被用于捏造事实，将严重损害个人声誉。
6. 脱语境化与重新诠释：图像脱离原场景或被错误解读，可能造成误解或伤害。
7. 弱势群体影响：对未成年人、老年人、残障人士等弱势群体的影响需特别谨慎。

此外，文章还提到特定情况下的特殊影响，如对人际关系、身心健康、职业环境等的损害，以及处理死者图像的伦理问题。

潜在风险

潜在风险指图像上传至AI系统后，即使未公开传播，也可能带来的长期或隐蔽的损害，包括：

1. 失去控制权：图像被第三方技术处理，个人无法完全掌控。
2. 技术留存与副本：系统可能保留原始图像及处理后的副本，且个人不知情。
3. 多方参与与访问扩大：图像可能被云服务、存储系统、安全工具等多方访问。
4. 服务商附加目的：服务商可能将图像用于安全检测、功能优化等非初始目的。
5. 元数据生成与内部推断：系统自动生成的技术数据可能被用于内部分析。
6. 持续识别风险：AI可能将同一人物特征用于生成多张图像，导致持续被识别。
7. 信息不对称与权利行使困难：个人难以了解图像去向及如何维权。
8. 安全漏洞风险：技术故障或安全事件可能导致图像泄露。
9. 累积效应：多次生成变体可能增加产生有害结果的概率。

结论

文章强调，将他人图像上传AI系统并非中性行为，即使无恶意传播，也可能因系统运作机制引发数据保护风险。这些风险源于技术控制权转移、多方参与、数据留存及潜在滥用等多重因素。因此，在处理他人图像时需高度审慎，并严格遵守数据保护规范。

在法律适用方面，本文指出，若使用行为超出纯粹个人或家庭范畴，或存在大规模传播，则可能违反《通用数据保护条例》（GDPR）等法规。此外，即使GDPR不直接适用死者图像，其伦理和法律问题仍需关注。

最后，文章建议监管机构（如西班牙保护数据局）应重点关注高风险场景，如完全失去图像控制权、生成高度逼真内容、涉及弱势群体等情况，并加强监管与指导。