西班牙：关于人工智能图像和新欧盟法规的西班牙数据保护局

3 DE ENERO DE 2022ENERO 2026 El uso de imágenes de terceros en sistemas de IAy sus riesgos visibles e invisibles Índice INTRODUCCIÓN 1. LOS IMPACTOS VISIBLES. RIESGOS Y CRITERIOS GENERALES APLICABLES A IMÁGENES Y VÍDEOS GENERADOS O MODIFICADOS CON IA3A) Expectativa razonable y legitimación para el uso concretoB) Alcance y facilidad de difusiónC) Persistencia y posibilidad real de retirar el contenidoD) Sexualización y contenido íntimo sintéticoE) Atribución de hechos no reales y efectos reputacionales ampliadosF) Descontextualización y reinterpretaciónG) Que la persona afectada sea vulnerable El uso de imágenes de terceros en sistemas de IAy sus riesgos visibles e invisibles INTRODUCCIÓN Una imagen (ya sea una fotografía o un vídeo) en el que una persona es identificada o identificableconstituye un dato personal. Una persona puede ser identificable o reconocida por su rostro, voz,cuerpo, gestos, vestimenta, tatuajes, entorno o relaciones, o por la combinación de varios de Subir, reenviar a plataformas, redes o sistemas de IA, transformar o generar contenidos visualesa partir de la imagen de una persona supone un tratamiento de datos personales, conindependencia de la finalidad perseguida o del carácter aparentemente trivial del uso. Además,en la mayoría de los casos, supone utilizar la imagen de una persona sin su conocimiento paraque sea tratada por un servicio de Internet, tanto para la generación de nuevo contenido, comopara potenciales tratamientos adicionales de lapropia plataforma, ya se trate de aprendizaje, Cada día es más común el uso irreflexivo de herramientas de inteligencia artificial para generar omodificar imágenes o vídeosen muchos casos considerados banales o lúdicos (filtros, avatares,caricaturas, animaciones, “ponlo en otra escena”, etc.) En ocasiones los vídeos o imágenesgenerados no se difunden, peroen otras sí, e incluso de manera masiva. En todos los casos estasprácticas pueden generar impactos y riesgos relevantes, tanto visibles como no visibles en 1. Los impactos visibles. Riesgos y criterios generales aplicables aimágenes y vídeos generados o modificados con IA Para valorar los riesgos derivados de la generación y difusión de imágenes o vídeos de tercerospueden tomarse como referencia los criterios clásicos utilizados en protección de datos para El uso de imágenes de terceros en sistemas de IAy sus riesgos visibles e invisibles Es cierto que muchas plataformas de IA generativa incorporan mecanismos técnicos para limitarla generación de contenidos claramente lesivos. Estas medidas hacen que muchos contenidosnotoriamente dañinos no lleguen a generarse, pero no garantizan que desaparezcan todos los Desde el punto de vista de la persona afectada, el daño visible puede ser equivalente—y enalgunos casos mayor—que en el caso de una imagen o un vídeo real, lo que justifica mantener A) Expectativa razonable y legitimación para el uso concreto Que una fotografía estuviera en un grupo de mensajería, en una red social o se hubiera enviadouna vez no equivale a una autorización general para cargarla en herramientas de IA,transformarla, generar variantes o difundir el resultado. En términos prácticos, cuanto más se B)Alcance y facilidad de difusión Importa tanto el número de destinatarios como la facilidad de reenvío, copia, captura yrepublicación. En mensajería, el salto de un grupo a otros grupos es un patrón típico de pérdidade control; en redes sociales, la apertura del perfil y los mecanismosde amplificación aceleran C)Persistencia y posibilidad real de retirar el contenido El riesgo aumenta si no es posible retirar de forma efectiva el contenido y sus copias, o si elmaterial se vuelve fácilmente localizable. Las medidas de retirada ofrecidas por las plataformas D)Sexualización y contenido íntimo sintético Se trata de una señal de riesgo muy alto: desnudez añadida, erotización, insinuación sexual oescenas íntimas generadas a partir de una imagen neutra. Aunque muchas plataformas limitanactivamente este tipo de generación, estos riesgos pueden persistir enescenarios residuales o El uso de imágenes de terceros en sistemas de IAy sus riesgos visibles e invisibles E)Atribución de hechos no reales y efectos reputacionales ampliados Con carácter general, muchos usos triviales o humorísticos de imágenes o vídeos generados conIA no presentan relevancia jurídicay en muchos casos están amparados legalmente. El riesgosurge cuando el contenido atribuye a una persona hechos, conductas o escenas que noocurrieron y que resultan verosímiles o socialmente creíbles. Incluso cuando la generacióninicial está limitada por la plataforma, la imagen o el vídeo puedenser reutilizados, F)Descontextualización y reinterpretación Una imagen o un vídeo generados con IA pueden causar daño si se presentan fuera de sucontexto original o acompañados de textos, títulos o comentarios que alteran su significado, un G)Que la persona afectada sea vulnerable El umbral de prudencia al generar imágenes