Sancionan con 5 millones de euros a un Chatbot de Inteligencia Artificial por no cumplir con el RGPD

FORLOPDjulio 30, 2025/inCIBERSEGURIDAD, ProtecciónDatos

La autoridad italiana de protección de datos II Garante, a realizado un expediente sancionador a la empresa Luka Inc, poseedora de un Chatbot basado en IA. Este expediente regulador pone en valor la importancia de cumplir con el Reglamento General de Protección de Datos (RGPD) en las empresas tecnológicas.

La sanción de 5 millones de euros impuesta por la comisión de graves infracciones al RGPD tiene como objeto expedientar una política de protección de datos deficiente, así como una falta de base de legitimación del tratamiento, vulnerando los principios de licitud, transparencia y protección desde el diseño por defecto. La autoridad sancionadora detectó que no se habían adoptado medidas para verificar la mayoría de edad en el uso del chatbot.

Este chatbot conversacional permitía a los usuarios crear compañeros virtuales mediante su sistema de IA, que generaba roles de amigo, mentor o incluso pareja romántica. Interactuando mediante texto o voz y creando interacciones emocionales.

La autoridad italiana de protección de datos Garante basó su decisión en:

El incumplimiento de minimización y del principio de privacidad desde el diseño por defecto que recogía más datos de los estrictamente necesarios.

La ausencia de verificación de edad y falta de protección a los menores. el Chatbot no limitaba el contenido más sensible a los menores y tampoco se adoptaron mecanismos efectivos para verificar la edad,

Existió infracción del principio de licitud y transparencia, careciendo de una legitimación para cada tratamiento al no informar con claridad y precisión sobre la interacción con el chatbot. Existiendo una falta de garantías en las transferencias de datos internacionales.

Se estima una cantidad de 10 millones de usuarios afectados por este tipo de incumplimiento, además de la actividad transfronteriza, hizo que la autoridad italiana calificara los incumplimientos como graves y además de las sanciones, le impusiera obligaciones y plazos para corregir sus deficiencias en sus sistemas de IA.

Fuente: legaltoday.com

Esta sanción refleja la falta de transparencia en sistemas de Inteligencia Artificial así como pone en relieve la necesidad de adaptar estas tecnologías para cumplir con las exigencias del Reglamento General de Protección de Datos (RGPD) y el reglamento de Inteligencia Artificial (RIA).

En Forlopd ayudamos a empresas y profesionales a adaptar sus procesos a las normativas vigentes sobre Protección de Datos cumpliendo con las exigencias del Reglamento General de Protección de Datos (RGPD) y el Reglamento de Inteligencia Artificial (RIA). Puedes solicitarnos un análisis de cumplimento gratuito y nuestros especialistas te guiarán en el proceso.