La inteligencia artificial (IA) está entrando progresivamente en las aulas y empieza a formar parte de las herramientas que utilizan tanto el profesorado como el alumnado. Sus posibilidades para apoyar el aprendizaje, generar contenidos o facilitar determinadas tareas son amplias, pero también plantea nuevos retos relacionados con la igualdad, la privacidad y el uso responsable de la tecnología.
En este contexto, el Instituto de las Mujeres ha publicado EDUGENIA, un toolkit dirigido a la comunidad educativa que propone trabajar el uso de la inteligencia artificial en el aula incorporando una perspectiva de género e interseccional. La guía, desarrollada junto con la Universitat Oberta de Catalunya, la Universitat de Lleida y Plàudite Teatre, ofrece recursos y actividades para fomentar un uso crítico y ético de estas tecnologías.
¿Dónde pueden aparecer los sesgos de género en la inteligencia artificial?
Uno de los principales aspectos que aborda EDUGENIA es la posibilidad de que los sistemas de inteligencia artificial reproduzcan sesgos presentes en los datos, en los algoritmos o en la propia aplicación de la tecnología.
Los datos utilizados para entrenar un sistema pueden no representar adecuadamente a toda la población. La falta de representación de mujeres u otras identidades de género puede provocar resultados que reproduzcan o amplifiquen desigualdades ya existentes.
Los sesgos también pueden introducirse durante el diseño de los algoritmos. Las decisiones humanas relacionadas con la selección de datos, la clasificación de información o la definición de los modelos pueden incorporar determinados valores, supuestos o estereotipos.
Además, estos problemas no terminan cuando el sistema entra en funcionamiento. La forma en la que una herramienta de IA se utiliza en el mundo real puede generar nuevas situaciones de discriminación si sus resultados no se supervisan adecuadamente.
EDUGENIA recoge diferentes ejemplos que permiten analizar estas situaciones, desde sistemas de generación de imágenes que reproducen estereotipos de género hasta herramientas de selección de personal o sistemas de traducción que pueden ofrecer resultados diferentes en función del género.
¿Tu centro educativo utiliza herramientas de inteligencia artificial?
El uso de IA también debe integrarse dentro de una estrategia adecuada de protección de datos y cumplimiento normativo. En FORLOPD te ayudamos a analizar los tratamientos de datos personales y las medidas necesarias para utilizar estas tecnologías de forma adecuada.
La importancia de enseñar un uso crítico de la IA
La incorporación de la inteligencia artificial en las aulas no debería limitarse a enseñar cómo utilizar una determinada herramienta. También es necesario que el alumnado comprenda cómo funcionan estos sistemas, qué limitaciones presentan y qué consecuencias pueden tener sus resultados.
La guía plantea la necesidad de diferenciar entre utilizar una tecnología correctamente desde un punto de vista técnico y utilizarla de manera ética. Una respuesta generada por una IA puede ser técnicamente adecuada y, al mismo tiempo, contener sesgos o producir consecuencias no deseadas.
Por este motivo, el profesorado desempeña un papel fundamental. Las decisiones adoptadas mediante sistemas de inteligencia artificial no deben quedar completamente delegadas en la tecnología. Es necesario mantener una supervisión humana que permita detectar posibles errores, discriminaciones o resultados que no sean adecuados para el contexto educativo.
Privacidad y protección de datos también forman parte del uso responsable
La guía también relaciona el uso de la inteligencia artificial con cuestiones como la privacidad, la responsabilidad, la equidad y la explicabilidad. En un entorno educativo, estos aspectos adquieren especial relevancia debido a la cantidad de información personal que puede tratarse sobre alumnado, familias y profesionales.
Antes de introducir información personal en una herramienta de inteligencia artificial, el centro debería valorar qué datos se están utilizando, con qué finalidad, quién puede acceder a ellos y qué ocurre posteriormente con esa información.
La protección de datos debe formar parte de la planificación del uso de estas tecnologías y no incorporarse únicamente después de que aparezca un problema. El principio de privacidad desde el diseño, junto con la minimización de datos y otras medidas de seguridad, permite reducir los riesgos asociados al tratamiento de información personal.
Recomendaciones para trabajar la IA en el aula
EDUGENIA propone adaptar el uso de la inteligencia artificial a las características y necesidades de cada nivel educativo. También recomienda prestar atención a los posibles sesgos durante todo el ciclo de desarrollo y utilización de estas herramientas.
En el aula, una de las posibilidades consiste en convertir la propia IA en objeto de análisis. Por ejemplo, el alumnado puede formular preguntas a diferentes sistemas, conservar los prompts y las conversaciones y analizar posteriormente las respuestas obtenidas para identificar posibles estereotipos o diferencias en el tratamiento de determinados colectivos.
La guía también plantea la importancia de utilizar un lenguaje inclusivo y de incorporar referentes femeninos relacionados con la tecnología y las disciplinas STEM, como Ada Lovelace, Hedy Lamarr o Grace Hopper.
De esta forma, la inteligencia artificial puede convertirse no solo en una herramienta de apoyo al aprendizaje, sino también en un recurso para desarrollar la capacidad crítica del alumnado y analizar cómo la tecnología puede reproducir determinadas desigualdades sociales.
La formación del profesorado es clave
El uso responsable de la IA requiere que el profesorado disponga de una formación que vaya más allá del conocimiento técnico de las herramientas. También resulta necesario comprender sus implicaciones éticas, sociales y educativas.
Entre las recomendaciones recogidas en EDUGENIA se encuentra utilizar la IA como un recurso que permita generar debate en el aula, formar al profesorado de manera continua y recurrir a especialistas cuando sea necesario para abordar cuestiones concretas.
La guía también plantea diferentes temas que pueden utilizarse para trabajar los sesgos de género: la escasa presencia de referentes femeninos en determinados materiales educativos, el diseño de productos tecnológicos, las voces de los asistentes virtuales, los sistemas de reconocimiento facial o las aplicaciones de inteligencia artificial relacionadas con la salud.
Una oportunidad para educar en igualdad y tecnología
La incorporación de la inteligencia artificial al ámbito educativo plantea oportunidades, pero también exige establecer criterios claros para garantizar un uso responsable, seguro, inclusivo y respetuoso con los derechos de las personas.
El enfoque propuesto por EDUGENIA pone de manifiesto que educar en inteligencia artificial no consiste únicamente en enseñar a utilizar sus herramientas. También implica comprender sus límites, identificar posibles sesgos y formar al alumnado para analizar críticamente los resultados que generan.
En este proceso, la protección de datos, la privacidad, la igualdad y la supervisión humana deben formar parte de la estrategia de los centros educativos a medida que incorporan nuevas tecnologías basadas en inteligencia artificial.
¿Necesitas adaptar el uso de la inteligencia artificial a las obligaciones de protección de datos de tu organización?
En FORLOPD analizamos tus tratamientos de datos y te ayudamos a establecer las medidas necesarias para avanzar hacia un uso seguro y adecuado de la tecnología.
