Implicaciones del uso de herramientas de Inteligencia Artificial por parte de los autónomos

Los sistemas de Inteligencia Artificial pueden tener un impacto directo sobre los derechos fundamentales de las personas, especialmente al tomar decisiones automatizadas que afectan a usuarios. Esto es algo que también afecta a los negocios más pequeños, incluidos los autónomos.

Los profesionales que utilicen herramientas de Inteligencia Artificial en su actividad, ya sea segmentando audiencias o estableciendo precios dinámicos deberán tener en consideración la normativa para asegurar su cumplimiento.

También es importante recordar que cuando se utiliza herramientas como ChatGPT que utiliza machine learning, aprende a través de la interacción de los usuarios, es por ello que al usarlos es posible estar cediendo datos a terceros, con el riesgo en materia de protección de datos que ello supone. El Reglamento de IA, obliga a realizar evaluaciones de impacto sobre los derechos fundamentales al usar sistemas considerados de alto riesgo. Es de vital importancia entender como funciona la IA para evitar problemas legales en cada caso.

Otra preocupación sobre la Protección de Datos es al hacer uso de decisiones automatizadas sin supervisión humana, cómo por ejemplo cuando un software basado en IA rechaza a un cliente sin ofrecerle explicaciones, o si una herramienta de selección de candidatos elimina a perfiles por criterios que no puede justificar, el autónomo podría incurrir en una infracción grave del RGPD.

¿Qué medidas pueden tomar los autónomos para minimizar los riesgos de la IA?

Es imprescindible determinar el uso que se hace de la IA que implica los datos personales y su tratamiento. Es decir, si se trata de una herramienta de análisis de comportamiento o una segmentación de audiencia. En ambos casos el autónomo estará sometido a las exigencias del RGPD y el Reglamento de Inteligencia Artificial (RIA)

De tal forma se deberá realizar una evaluación de impacto en la protección de datos, sobre todo si se utiliza para tomar decisiones automatizadas sin supervisión humana.

La AEPD ha publicado herramientas como la Metodología HUDERIA para evaluar riesgos asociados a sistemas de Inteligencia Artificial. También las tecnologías particularmente invasivas como el reconocimiento facial o el uso de datos biométricos, se han puesto bajo el foco de la AEPD, cómo las cámaras que detectan emociones o el software que extra datos a partir de la información física de los clientes.

También se alerta sobre el peligro de la utilización de datos con una finalidad y una intencionalidad diferente, como por ejemplo reservas y la segmentación de clientes o análisis de comportamiento.

En este marco es recomendable aplicar la privacidad desde el diseño y por defecto, asegurándose de que las herramientas se utilizan para proteger la privacidad del usuario. Así como informar con claridad al obtener el consentimiento, de forma que los usuarios siempre deben saber si están siendo evaluados por una máquina y qué consecuencias puede tener, así como ejercer sus derechos.

En Forlopd mantenemos nuestro compromiso de ayudar a empresas y profesionales a mejorar la privacidad de su información, adaptando sus procesos para que cumplan con las exigencias normativas. Si te gustaría saber si tu entidad cumple con ellas, puedes solicitar un análisis de cumplimiento con nosotros.