El Instituto de las Mujeres, organismo autónomo del Ministerio de Igualdad, y la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, han formalizado un convenio de colaboración con el objetivo de reforzar la igualdad de género en el desarrollo y uso de la inteligencia artificial en España.
El acuerdo establece un marco de cooperación destinado a prevenir, detectar y corregir los sesgos de género presentes en los sistemas de inteligencia artificial, así como a combatir la violencia digital que afecta de manera desproporcionada a mujeres y niñas.
IA con enfoque de igualdad y derechos fundamentales
Una de las principales líneas del convenio es la integración del principio de igualdad de género en todo el ciclo de supervisión de los sistemas de IA, especialmente aquellos considerados de alto riesgo. De este modo, se busca garantizar que las decisiones automatizadas no reproduzcan ni amplifiquen formas de discriminación.
La AESIA se compromete a reforzar su labor de supervisión mediante la alerta temprana de sistemas de riesgo, el intercambio de documentación técnica, la organización de pruebas especializadas y la formación de su personal en materia de igualdad.
Prevención de la violencia digital
El convenio también pone el foco en la creciente problemática de la violencia digital y la manipulación de contenidos en línea. En este contexto, el Instituto de las Mujeres elaborará informes sobre el uso de herramientas de inteligencia artificial en plataformas digitales, especialmente en casos relacionados con la creación o difusión de imágenes sexualizadas o manipuladas sin consentimiento.
Estas actuaciones contarán además con la colaboración del Instituto Nacional de Ciberseguridad (INCIBE), con el fin de reforzar la protección de los derechos fundamentales en el entorno digital.
Cooperación europea e investigación conjunta
Otra dimensión clave del acuerdo es la cooperación con la Comisión Europea y la Oficina Europea de Inteligencia Artificial. Ambas instituciones españolas compartirán evidencias técnicas y documentación para contribuir a investigaciones europeas sobre el impacto de la inteligencia artificial en redes sociales y otros entornos digitales.
Asimismo, se impulsarán iniciativas de investigación, análisis y generación de conocimiento sobre inteligencia artificial, igualdad de género y no discriminación.
Un laboratorio para la IA ética
Como parte de esta colaboración, se desarrollará un “Laboratorio de Ideas” que reunirá a expertos del ámbito académico, institucional, empresarial y social. Su objetivo será proponer soluciones que permitan avanzar hacia una inteligencia artificial ética, transparente y respetuosa con los derechos fundamentales.
Compromiso con una IA más justa
Tanto el Instituto de las Mujeres como la AESIA destacan que esta alianza supone un paso importante para situar a España como referente en el desarrollo de una inteligencia artificial confiable, que incorpore la perspectiva de género y contribuya a reducir desigualdades estructurales en el entorno digital.
Fuente: Instituto de las Mujeres
Sesgo de género en la Inteligencia Artificial
El sesgo de género en la inteligencia artificial (IA) se refiere a los errores sistemáticos que hacen que los sistemas automatizados traten de forma desigual a mujeres y hombres, o reproduzcan estereotipos de género presentes en los datos con los que han sido entrenados. Aunque la IA no “tiene intenciones”, aprende patrones a partir de grandes volúmenes de información histórica, y si esos datos reflejan desigualdades sociales, la tecnología puede amplificarlas.
¿Cómo aparece el sesgo de género en la IA?
El sesgo puede surgir en varias fases del desarrollo de un sistema:
Datos de entrenamiento desequilibrados: si hay más ejemplos de hombres que de mujeres en ciertos roles (por ejemplo, médicos o ingenieras), la IA puede asociar esas profesiones principalmente con hombres.
Etiquetado humano sesgado: cuando personas clasifican datos, sus propios prejuicios pueden influir en las etiquetas.
Diseño de algoritmos: algunas decisiones técnicas pueden favorecer resultados menos equitativos sin que sea evidente.
Uso del sistema: incluso una IA bien entrenada puede generar resultados sesgados si se aplica en contextos no controlados.
Ejemplos comunes incluyen sistemas de selección de personal que penalizan currículums femeninos, asistentes virtuales que refuerzan estereotipos de género o herramientas de reconocimiento facial con menor precisión en mujeres.
Recomendaciones para reducir el sesgo de género en la IA
Reducir este problema no es sencillo, pero sí es posible con medidas técnicas, éticas y organizativas:
1. Mejorar la calidad y diversidad de los datos
Incluir conjuntos de datos equilibrados en términos de género, edad y contexto social.
Revisar los datos históricos para detectar desigualdades estructurales.
Incorporar fuentes diversas para evitar una visión limitada de la realidad.
2. Auditar los algoritmos de forma periódica
Evaluar si el sistema produce resultados diferentes según el género.
Realizar pruebas con escenarios controlados para detectar discriminaciones.
Usar métricas de equidad además de métricas de precisión.
3. Equipos de desarrollo diversos
Incluir mujeres y personas de diferentes perfiles en equipos de diseño y entrenamiento de IA.
Fomentar la interdisciplinariedad (ética, sociología, derecho, tecnología).
4. Transparencia y explicabilidad
Diseñar modelos que permitan entender por qué toman determinadas decisiones.
Documentar claramente los datos utilizados y sus limitaciones.
5. Supervisión humana en decisiones críticas
Evitar que la IA tome decisiones completamente autónomas en ámbitos sensibles (empleo, justicia, salud).
Mantener mecanismos de revisión humana.
6. Formación en igualdad y ética digital
Formar a desarrolladores y responsables de sistemas en sesgos algorítmicos y perspectiva de género.
Promover una cultura tecnológica consciente del impacto social.
En Forlopd trabajamos para reducir la brecha de género en el ámbito laboral, ayudando a empresas, profesionales y entidades a mejorar sus procesos para disponer de un ambiente laboral más justo y acorde a la normativa de igualdad. Si tu negocio se encuentra en la necesidad de implantar medidas igualitarias, puedes solicitarnos más información y nuestros especialistas te guiarán.
