«¿Juegas al Go?» Por increíble que parezca, es casi seguro que esta pregunta revelará el género de la persona que responde. Esto se debe a que la comunidad de Go (conocido como Weiqi en China, Baduk en Corea e Igo en Japón), al igual que ciertas disciplinas científicas y programas académicos, está ampliamente dominada por hombres. Este desequilibrio de género es, en gran medida, el resultado de factores sociales y culturales, como ocurre en el mundo de la ciencia, pero probablemente no siempre fue así a lo largo de la extensa historia del juego¹. De hecho, hay pruebas sólidas que sugieren que la forma en que el juego se transmite de generación en generación, al igual que la forma en que se enseña ciencia en la escuela, desempeña un papel fundamental en el mantenimiento de esta desigualdad abismal.
Fue lo que dos investigadores de la Universidad de Hong Kong demostraron en un artículo de investigación de 2022², comparando los resultados de dos métodos de enseñanza del juego de Go. En un experimento de cinco meses, un grupo de jugadores fue instruido por profesores humanos, mientras que el otro grupo aprendió a mejorar su técnica con un pequeño personaje amigable impulsado por inteligencia artificial. Los resultados fueron claros: el grupo entrenado por IA obtuvo mejores resultados que el otro y, lo que es más importante, no hubo diferencia entre niños y niñas. En el grupo enseñado por profesores humanos, la brecha de género preexistente persistió.
¿Por qué ocurriría esto? Probablemente porque ciertos estereotipos perpetuados por estos profesores, a menudo de forma inconsciente, enviaban señales involuntarias (permitir que una persona respondiera a una pregunta en lugar de otra, felicitar o alentar más a los niños que a las niñas, etc.) que eran captadas y amplificadas por los alumnos.
Cuando las niñas fueron entrenadas por una inteligencia artificial imparcial, una cualidad que debe ser comprobada previamente, y no tuvieron interacción con sus compañeros de clase, no se vieron influenciadas por estas señales negativas implícitas. Es obviamente tentador trasponer los resultados de este experimento al mundo más amplio de la educación. ¿Pero son prueba suficiente de que la IA tiene un papel significativo que desempeñar en nuestras escuelas y universidades? Creo que no. Por otro lado, estoy firmemente convencido de que el potencial de la IA para abordar el prejuicio de género en la educación científica merece investigaciones más profundas.
El valor pedagógico de la IA es un asunto complejo que sociólogos y expertos en educación sin duda debatirán durante muchos años. Desde el rechazo total hasta el escenario improbable y claramente poco realista en el que la tecnología reemplaza por completo a los humanos, las opiniones difieren enormemente. En términos prácticos, queda por ver cómo el uso responsable de la IA en el aula puede proporcionar eficazmente a los alumnos una supervisión personalizada para apoyar el papel de sus profesores.
En primer lugar, debemos garantizar que los modelos utilizados por la IA generativa, que aún producen resultados impredecibles y utilizan un razonamiento que no es fácilmente explicable, no estén, por sí mismos, contaminados por prejuicios de género. Varios casos recientes, en particular cuando se ha utilizado la IA en selección de personal, han demostrado que la tecnología puede, de hecho, ser contraproducente, reforzando o amplificando las prácticas discriminatorias ya existentes.
_______________________________
[1] Como lo demuestra el reciente aumento de la popularidad del juego de Go entre las mujeres surcoreanas, inspirado por el éxito de la poseedora del título femenino Choi Jeong.
[2] Huang, Difang y Lin, Chen, ¿Puede la Inteligencia Artificial mejorar la igualdad de género? Evidencias de un experimento natural (27 de agosto de 2022). Management Science, de próxima aparición, HKU Jockey Club Enterprise Sustainability Global Research Institute.
Sea como sea, necesitamos urgentemente aprovechar el ejemplo del Go y realizar nuevos experimentos. En la situación actual, según estadísticas de la UNESCO, las mujeres jóvenes representan solo el 35 % del alumnado en disciplinas STEM (Ciencia, Tecnología, Ingeniería y Matemáticas) a nivel mundial. Según Fedesoft, en Colombia, aunque más del 52% de las niñas participan en dichas actividades, la mayoría no logra incorporarse al mercado laboral tecnológico. Explican que la brecha se acentúa en el empleo: solo el 25% de quienes trabajan en el sector TI en dicho país son mujeres, frente al 75% de hombres. En un momento en que afrontamos enormes desafíos científicos y de ingeniería, el mundo, sigue privándose de una proporción significativa de su talento disponible.
Los actores industriales y tecnológicos no pueden permanecer como meros espectadores en estos debates. Al diseñar sistemas de IA que se integrarán en entornos sensibles, como la educación, la formación y la selección de personal, asumen una responsabilidad particular: no reproducir mecánicamente los desequilibrios existentes, sino explorar sistemáticamente formas de reducirlos.
Es cierto que el entusiasmo en torno al surgimiento de la IA está dando lugar a multitud de casos de uso potenciales, algunos de los cuales resultarán ser fantasiosos, inadecuados o insostenibles. La cuestión no es si la IA resolverá por sí sola las desigualdades profundamente arraigadas. Se trata de si estamos dispuestos a seguir sin hacer nada ante prejuicios de los que somos plenamente conscientes, que podemos medir y que sabemos que están privando a la ciencia de talentos esenciales.
