Primera multa por usar IA para generar un desnudo falso en España

FORLOPDnoviembre 12, 2025/inProtecciónDatos

La primera multa por generar un desnudo falso con Inteligencia Artificial, impuesta por la Agencia Española de Protección de Datos (AEPD) ha sido de 2.000 euros. El expediente sancionador tiene que ver con el suceso en 2023 en el que un grupo de menores utilizó aplicaciones de IA para generar imágenes sexuales de compañeras, y difundiéndolas por las redes sociales.

La AEPD actuó de oficio tras conocer los hechos a través de los medios, y aunque es independiente del proceso penal ya cerrado contra los menores, marca un precedente frente a este tipo de actividades.

La resolución de la AEPD trata de ser una sanción ejemplificante, demostrando que este tipo de actuaciones tiene consecuencias más allá de la vía penal, sino por la administrativa.

En el caso de las imágenes falsas utilizan su identidad visual, vulnerando el derecho a decidir sobre su imagen. Además de que si se trata de menores es un agravante.

Según el Reglamento Europeo de Inteligencia Artificial (AI act) aplicable a partir de 2026, pretende legislar estos casos. En este caso la verificación de edad y los mecanismos de denuncia para contenidos generados por IA entrarán dentro del marco normativo.

Esta resolución hace que España se convierta en el primer país europeo en sancionar económicamente el uso ilícito de inteligencia artificial.

Impacto de la generación de contenido con IA en la protección de datos y repercusiones legales

La generación de contenido mediante inteligencia artificial, especialmente imágenes o videos que utilizan la identidad visual de personas reales, tiene implicaciones directas sobre la protección de datos personales. Según la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales (LOPDGDD) y el Reglamento General de Protección de Datos (RGPD), cualquier tratamiento de datos personales requiere una base legal, como el consentimiento explícito de la persona afectada.

Por lo que la creación de imágenes falsas sin autorización vulnera directamente el derecho a la propia imagen, considerado un dato personal sensible, y puede constituir un tratamiento ilícito de datos.

El Reglamento Europeo de Inteligencia Artificial (AI Act), que entrará en vigor en 2026, establece obligaciones específicas para los sistemas de IA que generen contenido, incluyendo:

Evaluación de riesgos y transparencia: Los desarrolladores y usuarios deben asegurar que el sistema de IA no genere contenidos que puedan vulnerar derechos fundamentales, como la privacidad o la dignidad de las personas.

Verificación de edad: Especialmente relevante cuando se trate de menores, para prevenir la creación de material sexualizado o nocivo.

Mecanismos de denuncia y rectificación: Las plataformas que distribuyan contenido generado por IA deberán facilitar herramientas para que los afectados puedan solicitar la eliminación de material ilícito.

Sanciones administrativas por el uso ilícito de la Inteligencia Artificial

En este contexto, el uso ilícito de la IA puede suponer sanciones administrativas significativas por parte de la AEPD, además de las consecuencias civiles o penales existentes. La resolución sobre la generación de desnudos falsos en España demuestra cómo la AEPD puede actuar de oficio ante vulneraciones del derecho a la propia imagen y del tratamiento de datos personales, marcando un precedente para futuras actuaciones en el ámbito de la IA.

En Forlopd llevamos más de 10 años trabajando para dar soporte a empresas, profesionales y entidades para que puedan cumplir con las exigencias normativas en materia de protección de datos. Para ello, adaptamos sus procesos según su sector de actividad. Puedes solicitarnos más información a través de nuestro formulario de contacto y nuestros especialistas te guiarán en el proceso.