¿En qué consiste la ley de inteligencia artificial?

AI chip intelligence technology, deep learning

FORLOPDenero 31, 2025/inProtecciónDatos

La Ley de Inteligencia Artificial es un marco normativo destinado a regular el uso de sistemas de IA dentro de la Unión Europea (UE) y el Espacio Económico Europeo (EEE). Este reglamento clasifica los sistemas de inteligencia artificial según el nivel de riesgo que representan para los derechos de las personas y el funcionamiento de la democracia, prohibiendo aquellos que se consideren una amenaza significativa.

Cabe señalar que este marco tiene carácter de reglamento, lo que implica que será de aplicación directa en todos los países miembros de la UE y el EEE una vez sea publicado en el Diario Oficial de la UE y entre en vigor.

¿Por qué se requiere una Ley de Inteligencia Artificial?

La necesidad de esta legislación surge de la ausencia de una regulación específica para el desarrollo y uso de la inteligencia artificial. Esta falta de regulación ha generado incertidumbre legal tanto para desarrolladores como para usuarios, además de abrir la puerta a usos abusivos o perjudiciales de estas tecnologías. Dado que el avance de la inteligencia artificial ha sido más rápido de lo previsto, se considera esencial establecer normas para evitar un desarrollo descontrolado que pueda ocasionar consecuencias negativas para la sociedad.

Ámbito de la Ley

Esta normativa tiene cuatro objetivos principales:

Garantizar la seguridad y el respeto por los derechos fundamentales en el uso de sistemas de IA.

Respaldar de forma legal e impulsar la inversión y la innovación en el ámbito de la IA.

Asegurar una aplicación efectiva de las normas relacionadas con los derechos fundamentales y la seguridad de los sistemas de IA.

Promover un mercado único que permita un uso seguro, confiable y legal de las aplicaciones de IA, evitando la fragmentación del mercado.

Prácticas prohibidas según la Ley de Inteligencia Artificial de la UE

Entre las prácticas prohibidas por esta legislación se incluyen: el empleo de técnicas subliminales para manipular el comportamiento humano, el aprovechamiento de vulnerabilidades para influir en conductas, y el uso de sistemas de identificación biométrica remota en tiempo real en espacios públicos con fines policiales, entre otras restricciones.

Otros detalles de clasificación de la Inteligencia Artificial

La Ley de IA de la UE clasifica los sistemas de inteligencia artificial según su nivel de riesgo:

Riesgo mínimo: No están sujetos a obligaciones, pero pueden seguir códigos de conducta voluntarios.
Riesgo de transparencia: Los chatbots y contenidos generados por IA, como deep fakes, deben etiquetarse y ser identificables.
Riesgo alto: Deben cumplir requisitos estrictos, como mitigación de riesgos y supervisión humana. Incluye IA en contratación, préstamos y robots autónomos.
Riesgo inaceptable: Se prohíben sistemas que amenacen derechos fundamentales, como la puntuación social o ciertos usos de biometría.

Además, regula los modelos de IA de propósito general, garantizando transparencia y control sobre posibles riesgos sistémicos.

La Ley de Inteligencia Artificial también tiene un impacto significativo en la protección de datos personales, ya que muchos sistemas de IA dependen del procesamiento masivo de información sensible. Para garantizar la privacidad y la seguridad de los ciudadanos, el reglamento establece obligaciones estrictas para los desarrolladores y usuarios de IA, especialmente los de alto riesgo.

Estos deben cumplir con principios como la minimización de datos, el consentimiento explícito y la transparencia en el uso de la información. Además, se refuerza la supervisión para evitar la recopilación indebida de datos y su uso en prácticas discriminatorias o invasivas, alineando esta normativa con el Reglamento General de Protección de Datos (RGPD) de la UE.