La nueva Normativa Europea para regular las IA

FORLOPDmarzo 20, 2024/inConsultora RGPD

La reciente aprobación por parte de la Eurocámara de una histórica ley para regular la inteligencia artificial marca un hito en la protección de derechos fundamentales y la promoción de la innovación en la Unión Europea. Esta legislación, respaldada con amplia mayoría, establece salvaguardias para proteger la seguridad y los derechos humanos frente a los riesgos asociados con el uso de la IA.

La nueva normativa, conocida como Ley de Inteligencia Artificial, prohíbe ciertas aplicaciones de IA que pueden atentar contra los derechos de los ciudadanos, como la categorización biométrica y el reconocimiento de emociones en entornos laborales y educativos. También establece restricciones al uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad, salvo en situaciones específicas y bajo estrictas salvaguardias.

Además, la normativa define obligaciones claras para los sistemas de IA de alto riesgo, como la evaluación y mitigación de riesgos, la transparencia y la supervisión humana. Las empresas también deben cumplir requisitos de transparencia y publicar resúmenes detallados del contenido utilizado para entrenar sus modelos de IA.

Es importante destacar que estas regulaciones no entrarán en vigor hasta el 2026, lo que brinda un período de transición para que las empresas se preparen y se adapten a los nuevos requisitos. Esto les permitirá revisar sus prácticas actuales de IA, realizar evaluaciones de riesgos y implementar medidas necesarias para cumplir con las disposiciones de la ley.

Estos son algunos de los beneficios más significativos a tener en cuenta tras la implementación de esta nueva normativa:

Garantiza la seguridad y el respeto de los derechos fundamentales: La normativa establece límites claros para el uso de la IA, protegiendo a los ciudadanos y prohibiendo prácticas como la vigilancia masiva en espacios públicos y el uso indiscriminado de la identificación biométrica.
Establece un marco ético y regulatorio: La ley busca asegurar que el desarrollo y uso de la inteligencia artificial estén alineados con los valores y derechos de la Unión Europea, promoviendo la transparencia y la seguridad en su aplicación.
Protege contra riesgos inaceptables: Prohíbe el uso de sistemas de IA que exploren vulnerabilidades de las personas o sean intrusivos y discriminatorios, como la vigilancia biométrica en tiempo real y el reconocimiento de emociones por IA.
Define normas para diferentes niveles de riesgo: Clasifica los sistemas de IA en diferentes niveles de riesgo, estableciendo obligaciones específicas para cada categoría, desde sistemas de alto riesgo hasta aquellos con un riesgo mínimo.
Responsabiliza a proveedores y usuarios: Los proveedores de sistemas de IA deben garantizar la transparencia y trazabilidad de sus productos, mientras que los usuarios deben hacer un uso responsable y ético de la tecnología, respetando la privacidad y la propiedad intelectual.
Establece sanciones por incumplimiento: La ley establece un sistema de sanciones que incluyen multas significativas para aquellos que no cumplan con sus disposiciones, lo que fomenta el cumplimiento y la responsabilidad.
Promueve la supervisión y aplicación efectiva: Se prevé un sistema de supervisión a nivel nacional y europeo para garantizar el cumplimiento de la ley, con la creación de agencias especializadas como la Agencia Española de Supervisión de la Inteligencia Artificial.
Se adapta al contexto cambiante de la IA: La normativa está diseñada para evolucionar y adaptarse a medida que avanza la tecnología y surgen nuevos desafíos, lo que la hace relevante y efectiva a largo plazo.

En Forlopd, empresa especializada en la protección y privacidad de datos, estaremos atentos a cómo evoluciona el panorama ante las nuevas implementaciones de regularizaciones para las IA´s, y en cómo afecta a pequeñas y grandes empresas.