Cataluña crea un modelo para prevenir que la IA invada derechos fundamentales

FORLOPDseptiembre 15, 2025/inDerechosRGPD, ProtecciónDatos

Alessandro Mantelero, profesor de derecho civil y derecho y tecnología en la Universidad de Turín y líder de un grupo de trabajo montado como miembros de l’Autoritat Catalana de Protecció de Dades (APDCAT) presentó un modelo con vocación global con tal de garantizar que el desarrollo de la Inteligencia Artificial no choque con los derechos básicos.

Es una herramienta que consiste en tres partes; un cuestionario para determinar el tipo de inteligencia artificial y en qué contexto se va a utilizar, una herramienta de evaluación basada en matrices para calcular la probabilidad de que impacte en un derecho fundamental y un cuadro de gestión de riesgos que precisa la libertad afectada.

Un ejemplo de aplicación del modelo ha sido para predecir el riesgo de abandono de un alumno, o CaixaBank evaluó un sistema para predecir el grado de encaje de un candidato en una vacante de empleo según su puntuación.

Según indica el profesor Mantelero, están “convencidos de que esta herramienta puede ser útil a muchas entidades” y no tiene que ser obligatoriamente para las empresas que van a hacer evaluaciones. También destaca la importancia de disponer de modelos como el que han desarrollado frente a modelos como DeepSeek desarrollado por China ya que muchos datos no se sabe como o cuando se van a recoger.

Fuente: El periódico

Privacidad de la información con el uso de la Inteligencia Artificial

La inteligencia artificial supone un nuevo reto frente a la privacidad y seguridad en las empresas que la utilizan. Aunque existe un reglamento que la regula en Europa, es esencial adecuar los procesos de la empresa para evitar incurrir en posibles sanciones por brechas o filtraciones de datos de carácter personal. Además de recalcar que la norma no establece criterios concretos para transformar la norma en algo práctico.

En Forlopd nuestro principal objetivo es mantener la privacidad de la información para empresas de diferente índole, ayudándoles en adaptar sus procesos y metodologías para que cumplan con el Reglamento General de Protección de Datos. Si tu negocio necesita asesoramiento, puedes consultar con nuestros especialistas a través del formulario de contacto.