La regulación de la inteligencia artificial en la Unión Europea establece una serie de límites muy estrictos sobre cómo puede utilizarse esta tecnología. Dentro del marco del Reglamento de IA, se identifican determinadas prácticas como inaceptables, lo que significa que su uso queda prohibido en prácticamente todos los casos.
El objetivo principal es proteger a las personas frente a sistemas que puedan vulnerar sus derechos fundamentales, manipular su comportamiento o generar discriminación.
A continuación, repasamos estas prácticas prohibidas organizadas por temática.
1. Sistemas de vigilancia biométrica en espacios públicos
Uno de los usos más sensibles de la inteligencia artificial es la identificación biométrica remota en tiempo real, especialmente en espacios públicos.
La normativa prohíbe, en términos generales, el uso de tecnologías de reconocimiento facial en directo para vigilancia masiva. Solo se permiten excepciones muy limitadas, como la búsqueda de personas desaparecidas o la prevención de amenazas graves para la seguridad.
2. Creación de bases de datos faciales sin control
También queda prohibida la recopilación indiscriminada de imágenes faciales a través de internet o cámaras de seguridad para crear bases de datos de reconocimiento facial.
Este tipo de prácticas se considera especialmente intrusivo, ya que implica el tratamiento masivo de datos biométricos sin consentimiento claro ni finalidad legítima suficiente.
3. Evaluación social de personas
La llamada “clasificación social” basada en inteligencia artificial está vetada en la Unión Europea. Esto incluye sistemas que puntúan o clasifican a las personas en función de su comportamiento, características personales o datos recopilados.
El riesgo principal es que estas evaluaciones puedan derivar en decisiones injustas, discriminatorias o sin posibilidad de revisión humana.
4. Predicción de delitos basada en perfiles
Otra práctica prohibida es el uso de IA para intentar predecir si una persona cometerá un delito basándose únicamente en su perfil o rasgos personales.
Este tipo de sistemas se considera inaceptable porque no se apoya en hechos concretos, sino en inferencias que pueden llevar a errores graves y sesgos discriminatorios.
5. Inferencia de emociones en entornos laborales o educativos
El uso de inteligencia artificial para detectar emociones en trabajadores o estudiantes está altamente restringido.
En general, no está permitido utilizar sistemas que analicen el estado emocional de una persona en el trabajo o en el aula, salvo en situaciones muy específicas relacionadas con la seguridad o la salud.
6. Categorización biométrica de datos sensibles
Tampoco se permite el uso de IA para clasificar a las personas en función de datos biométricos con el objetivo de deducir información sensible como:
Opiniones políticas
Creencias religiosas
Orientación sexual
Afiliación sindical
Este tipo de procesamiento se considera especialmente invasivo y de alto riesgo para la privacidad.
7. Manipulación del comportamiento sin consentimiento
Se prohíben los sistemas de inteligencia artificial diseñados para influir en el comportamiento humano de manera subliminal o engañosa.
Esto incluye técnicas que puedan alterar decisiones de forma oculta o sin que la persona sea plenamente consciente, especialmente si pueden causar perjuicios importantes.
8. Explotación de personas vulnerables
Por último, la normativa veta el uso de IA para aprovecharse de colectivos vulnerables, como menores de edad, personas con discapacidad o personas en situaciones de dependencia.
El objetivo es evitar que la tecnología sea utilizada para manipular o condicionar decisiones de quienes tienen menos capacidad de defensa.
Las prácticas prohibidas en la regulación europea de inteligencia artificial establecen una base clara de protección frente a usos considerados inaceptables.
Revisión de sistemas de Inteligencia Artificial
Más allá del cumplimiento legal, estas restricciones buscan garantizar que la IA se utilice de forma ética, transparente y respetuosa con los derechos fundamentales de las personas. Para las empresas, esto implica la necesidad de revisar cuidadosamente sus sistemas de IA y asegurarse de que no incurren en ninguno de estos supuestos prohibidos.
Si necesitas más información sobre el correcto cumplimiento normativo, adecuando los procesos para evitar incurrir en costosas sanciones administrativas, escríbenos a info@forlopd.es o llámanos al (+34) 963 122 868 y nuestros técnicos te guiarán.
