En la Unidad 4 del curso Inteligencia Artificial en Educación que imparte Conecta 13, parte de la tarea consistía en seleccionar desarrollar dos ideas claves que especialmente relevantes sobre la IA y el desarrollo profesional docente. Este es uno de los dos conceptos que he elegido y el análisis que he realizado:
Los sesgos de género en la generación de imágenes mediante la IA
La generación de imágenes mediante inteligencia artificial se enfrenta a un riesgo importante de sesgos de género que reflejan y perpetúan estereotipos sociales. Los algoritmos de IA, entrenados con conjuntos de datos, pueden incorporar prejuicios existentes y dar lugar a representaciones distorsionadas y discriminatorias. Este fenómeno se traduce en la creación y promulgación de imágenes que refuerzan roles de género tradicionales, limitando la diversidad y fomentando desigualdades. Es crucial abordar estos sesgos desde la fase de entrenamiento de los modelos, garantizando la inclusión de datos equitativos y la implementación de algoritmos que promuevan la representación diversa y no sesgada de género en las imágenes generadas por inteligencia artificial. Solo mediante una conciencia y acción consciente podemos mitigar estos peligros y avanzar hacia un uso ético y equitativo de la inteligencia artificial en la generación de imágenes. (texto generado por Chat GPT con mínimas correcciones de la autora)
En esta unidad he seguido trabajando con Designer Image Creator de Microsoft para analizar los posibles sesgos de género que se dan en la generación de imágenes. Para ello he utilizado la palabra “persona” para con el mismo prompt solicitar tres imágenes. Esto es lo que la IA me ha devuelto:
Persona leyendo: como se aprecia en la imagen, la IA equipara persona con hombre
. 
Persona pilotando un avión: en este caso, la IA me devuelve la imagen de un piloto y la de un monigote que se puede identificar indistintamente con un hombre o con una mujer.
Persona realizando actividades domésticas: En este caso la IA me ha devuelto una imagen de un monigote y otra de una mujer. Creo interesante comentar que en el primer caso, la imagen me remite más que a un trabajo doméstico a la imagen de una persona que trabaja en un taller. No logro identificar cual es la funcionalidad de la "herramienta" que sujeta en su mano izquierda la "persona". También me resulta al menos llamativo que en la segunda imagen, cuando la IA identifica el trabajo doméstico con una mujer, en la escena aparece un monigote tipo niño-niña.
