La Agencia Española de Protección de Datos (AEPD) ha impuesto la primera sanción en España para la creación y difusión de imágenes falsas generadas con inteligencia artificial. Los padres de un menor han sido multados con 2.000 euros, rebajados a 1.200 por pronto pago, tras un caso que ha sentado un precedente en la protección de datos de menores en Europa.
¿Qué ha pasado? Un menor usado la aplicación ClothOff para crear una imagen falsa de un compañero de secundaria desnudo. La herramienta de IA toma el rostro de la víctima y lo superpone a un cuerpo desnudo, teniendo en cuenta características físicas como la tez o el tono de la piel. La imagen luego fue difundida a través de redes sociales y grupos de mensajería.
El origen del caso. Aunque la resolución pública no identifica a los implicados, la AEPD ha confirmado que se trata de uno de los casos ocurridos en Almendralejo, Badajoz, en septiembre de 2023. Entonces, salió a la luz que al menos 20 menores habían sido víctimas de montajes similares que circularon por los móviles del municipio. Las imágenes llegaron incluso a portales como Onlyfans y páginas pornográficas, según la resolución.
Por qué es importante. Esta es la primera vez que una autoridad de protección de datos de la Unión Europea sanciona difundiendo un deepfake. La AEPD abrió el expediente de oficio el 20 de septiembre de 2023, apenas dos días después de que el caso se hiciera público, y pudo conocer la identidad de los responsables gracias a la colaboración con la Fiscalía. El regulador ha actuado sobre la base de que la imagen de una persona es un dato personal, lo que ha reforzado la protección cuando se trata de menores.
El debate sobre la sanción. El importe de la multa ha generado cierto debate. Jorge García Herrero, abogado y delegado de protección de datos, cuenta a El País que «muy pocos riesgos relacionados con la IA causan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores» y cuestiona si la sanción es «poco ejemplarizante». Por su parte, el jurista Borja Adsuara, cuenta a los medios que se trata de «un delito contra la intimidad, que pasa por proceso penal», y se pregunta qué sentido tiene imponer una multa administrativa cuando el caso ya ha sido sentenciado judicialmente.
El camino paralelo. Este procedimiento administrativo de la AEPD es independiente del proceso penal que ya se ha iniciado contra los responsables, que tenían entre 12 y 14 años en el momento de los hechos. En el proceso judicial se impuso un año de libertad supervisada a 15 menores por manipular imágenes de compañeros. De acuerdo a Miriam Al Adib, madre de una de las víctimas, «hubo una sentencia ejemplar según la cual los niños están en libertad condicional durante un año y deben realizar un curso de formación».
Y ahora qué. Se espera que la AEPD publique más multas similares relacionadas con los hechos de Almendralejo en los próximos meses, dado que hubo al menos dos decenas de víctimas. La resolución exime de responsabilidad a los creadores de ClothOff, una aplicación diseñada específicamente para generar imágenes de mujeres desnudas sin su consentimiento y que actualmente se encuentra cerrada. Sus creadores se enfrentan un proceso judicial en los Estados Unidos. Adib advierte que estos casos representan «una pandemia de tremenda violencia» que requiere estrategias políticas coordinadas y protocolos de protección efectivos para las víctimas.
Imagen de portada | hincharse
En | Ya tenemos la primera polémica de estas Navidades: Coca-Cola ha vuelto a hacer un anuncio utilizando IA
