La utilización de algoritmos y sistemas automatizados para gestionar trabajadores es una realidad cada vez más presente en empresas y plataformas digitales. Estos sistemas pueden analizar el rendimiento, detectar comportamientos considerados anómalos, asignar tareas o incluso tomar decisiones que afectan directamente a la continuidad profesional de una persona.
Sin embargo, ¿qué ocurre cuando un algoritmo toma una decisión que puede dejar a una persona sin su fuente de ingresos?
El reciente caso de Uber ha vuelto a situar esta cuestión en el centro del debate europeo. La Autoridad Neerlandesa de Protección de Datos ha impuesto a la compañía una sanción de 825 millones de euros por la utilización de decisiones automatizadas que afectaban a conductores, incluyendo la suspensión o desactivación de sus cuentas sin que, según la investigación, existieran las garantías necesarias de transparencia y supervisión humana efectiva.
Una sanción que demuestra que la protección de datos tendrá un papel cada vez más importante en la regulación del trabajo en la era de los algoritmos.
Cuando una decisión automatizada puede afectar al empleo
El caso investigado se refiere a sistemas utilizados por Uber entre 2018 y 2022 para gestionar determinados aspectos relacionados con la actividad de sus conductores.
La plataforma utilizaba algoritmos capaces de detectar determinados patrones que podían considerarse sospechosos o incompatibles con las normas de funcionamiento del servicio. Entre otras situaciones, los sistemas podían identificar posibles indicios de fraude, comportamientos anómalos o problemas relacionados con la actividad desarrollada por los conductores.
El problema no está necesariamente en utilizar tecnología para detectar este tipo de situaciones.
Las empresas pueden utilizar herramientas automatizadas para analizar grandes cantidades de información, identificar riesgos o ayudar en la toma de decisiones. La cuestión surge cuando el sistema no se limita a proporcionar información o recomendaciones, sino que adopta directamente una decisión con consecuencias significativas para una persona.
En este caso, la suspensión temporal o permanente de una cuenta podía impedir que un conductor continuara trabajando a través de la plataforma y, por tanto, afectar directamente a sus ingresos.
Y es precisamente aquí donde entra en juego el Reglamento General de Protección de Datos.
El artículo 22 del RGPD y las decisiones automatizadas
El artículo 22 del Reglamento General de Protección de Datos reconoce el derecho de las personas a no ser objeto de una decisión basada únicamente en un tratamiento automatizado cuando dicha decisión produzca efectos jurídicos o les afecte de manera significativa.
Esta norma resulta especialmente relevante en un contexto en el que los algoritmos participan cada vez más en decisiones relacionadas con:
- Procesos de selección de personal.
- Evaluación del rendimiento.
- Control de trabajadores.
- Asignación de tareas.
- Clasificación de perfiles.
- Determinación de condiciones económicas.
- Detección de comportamientos considerados fraudulentos.
- Suspensión de servicios o cuentas profesionales.
Una decisión automatizada no puede convertirse en una especie de «caja negra» que determine el futuro profesional de una persona sin ofrecer las garantías adecuadas.
Cuando se producen decisiones de este tipo, el RGPD establece importantes requisitos relacionados con la transparencia y la protección de los derechos de los afectados.
La intervención humana no puede ser simplemente simbólica
Uno de los elementos fundamentales del caso es la necesidad de garantizar una intervención humana real y efectiva.
No basta con afirmar que existe supervisión humana si, en la práctica, una persona simplemente confirma automáticamente lo que ha decidido un algoritmo.
La revisión debe permitir analizar realmente las circunstancias concretas del caso y valorar si la decisión adoptada por el sistema automatizado es correcta.
Esto resulta especialmente importante cuando pueden producirse errores.
Un algoritmo puede identificar un comportamiento como sospechoso a partir de determinados patrones de datos. Sin embargo, la realidad puede ser mucho más compleja. Una circunstancia excepcional, un error técnico o una interpretación incorrecta de los datos pueden provocar que una persona sea clasificada incorrectamente.
Por este motivo, la posibilidad de solicitar una revisión humana y de impugnar una decisión resulta fundamental para proteger los derechos de las personas afectadas.
Transparencia: saber cuándo un algoritmo está tomando decisiones
Otro de los grandes retos de la inteligencia artificial y de los sistemas automatizados es la transparencia.
Las personas deben poder conocer, en determinadas circunstancias, que están siendo objeto de procesos de decisión automatizada y disponer de información adecuada sobre el funcionamiento general de esos sistemas y sobre las consecuencias que pueden producir.
No se trata necesariamente de revelar el código fuente de un algoritmo. El objetivo es garantizar que las personas puedan comprender suficientemente cómo se utilizan sus datos y qué tipo de consecuencias puede tener un sistema automatizado sobre ellas.
En el ámbito laboral, esta cuestión adquiere una especial importancia. Un trabajador puede estar siendo evaluado constantemente por sistemas tecnológicos sin conocer exactamente qué datos se analizan, qué factores influyen en la decisión o cómo puede corregir una información incorrecta.
La gestión algorítmica del trabajo obliga, por tanto, a reforzar las políticas de transparencia dentro de las organizaciones.
Protección de datos y relaciones laborales: una conexión cada vez más importante
Tradicionalmente, la protección de datos y el derecho laboral se han tratado como ámbitos jurídicos diferentes. Sin embargo, la transformación digital está provocando que ambas materias estén cada vez más relacionadas.
Los sistemas de gestión de recursos humanos recopilan y analizan grandes cantidades de información sobre trabajadores y candidatos. Horarios, productividad, ubicación, comunicaciones, rendimiento o comportamiento pueden convertirse en datos utilizados para adoptar decisiones.
La aparición de herramientas basadas en inteligencia artificial incrementa todavía más esta situación. Por ejemplo, una empresa puede utilizar tecnología para analizar currículums, clasificar candidatos, evaluar el rendimiento de trabajadores o detectar comportamientos considerados irregulares.
Pero el hecho de que una decisión sea técnicamente posible no significa automáticamente que sea jurídicamente válida. Las organizaciones deben analizar no solo la eficacia de estas herramientas, sino también su impacto sobre los derechos y libertades de las personas.
¿Pueden las empresas utilizar algoritmos para tomar decisiones?
La respuesta es sí, pero su utilización debe realizarse dentro de un marco jurídico adecuado. Los sistemas automatizados pueden ser herramientas extremadamente útiles para mejorar procesos, reducir tareas repetitivas y gestionar grandes cantidades de información.
El problema aparece cuando la tecnología sustituye completamente la capacidad humana de decisión en situaciones que pueden afectar de forma significativa a una persona. Por ello, antes de implantar sistemas de inteligencia artificial o algoritmos en procesos relacionados con trabajadores, clientes o usuarios, es necesario realizar un análisis previo.
Entre otras cuestiones, las organizaciones deberían preguntarse:
- ¿Qué datos personales utiliza el sistema?
- ¿Cuál es la finalidad del tratamiento?
- ¿Existe una base jurídica adecuada?
- ¿El sistema adopta decisiones automatizadas?
- ¿Las decisiones pueden producir efectos jurídicos o significativos?
- ¿Existe supervisión humana real?
- ¿Las personas pueden solicitar una revisión?
- ¿Se proporciona información suficiente sobre el funcionamiento del sistema?
- ¿Se han evaluado los riesgos para los derechos y libertades de las personas?
En determinados casos, además, puede ser necesario realizar una Evaluación de Impacto en Protección de Datos antes de poner en funcionamiento el sistema.
La inteligencia artificial obliga a revisar los modelos de gestión
El caso de Uber representa un importante aviso para todas las empresas que utilizan algoritmos o inteligencia artificial para gestionar personas. La automatización no elimina la responsabilidad.
Al contrario, cuanto mayor sea la capacidad de un sistema para influir en las decisiones empresariales, mayor debe ser la atención prestada a los riesgos jurídicos y éticos asociados a su utilización.
La inteligencia artificial puede convertirse en una excelente herramienta de apoyo para la toma de decisiones. Sin embargo, las organizaciones no deberían delegar completamente en una máquina aquellas decisiones que puedan afectar de manera significativa a los derechos, oportunidades o condiciones profesionales de una persona.
La supervisión humana, la transparencia y la posibilidad de impugnar una decisión no son obstáculos para la innovación. Son garantías necesarias para que la innovación sea compatible con los derechos fundamentales.
Un precedente para la gestión algorítmica del futuro
La sanción impuesta a Uber, que la compañía ha anunciado que recurrirá, vuelve a demostrar que las autoridades europeas están prestando una atención creciente a la utilización de sistemas automatizados y al impacto que estos pueden tener sobre las personas.
El debate ya no se limita a las grandes plataformas digitales. Cada vez más empresas incorporan inteligencia artificial en departamentos de recursos humanos, sistemas de seguridad, herramientas de productividad y procesos de toma de decisiones.
Por ello, las organizaciones deben comenzar a plantearse una cuestión fundamental:
¿Quién está tomando realmente las decisiones dentro de nuestra empresa: las personas o los algoritmos?
La respuesta puede tener importantes consecuencias desde el punto de vista de la protección de datos, el cumplimiento normativo y los derechos de trabajadores y usuarios.
La transformación tecnológica continuará avanzando, pero el cumplimiento normativo debe hacerlo al mismo ritmo. La inteligencia artificial puede ayudar a las empresas a tomar mejores decisiones, pero cuando una decisión afecta significativamente a una persona, la tecnología no puede convertirse en una excusa para eliminar la responsabilidad humana.
El futuro del trabajo será, sin duda, cada vez más tecnológico. El reto será conseguir que también siga siendo humano, transparente y respetuoso con los derechos fundamentales.
¿Tu empresa utiliza algoritmos o inteligencia artificial para tomar decisiones?
La utilización de sistemas automatizados puede generar importantes riesgos en materia de protección de datos, privacidad y cumplimiento normativo, especialmente cuando las decisiones pueden afectar a trabajadores, clientes o usuarios.
En FORLOPD ayudamos a las organizaciones a analizar sus tratamientos de datos, identificar riesgos y adaptar sus procesos y tecnologías al RGPD y al resto de la normativa aplicable.
