La inteligencia artificial está transformando el mundo. Por esta razón, a nuestro alrededor, emergen debates profundos sobre su influencia en nuestras vidas. Desde la inquietud sobre cómo podría modificar el mercado laboral hasta interrogantes sobre su rol en nuestras actividades diarias, la IA es un tópico omnipresente. Los individuos que colaboran conmigo son conscientes de que la IA me fascina, sin embargo, al igual que toda revolución, comporta un reto ético considerable, en este caso el de cómo la IA, en todas sus facetas, sexualiza a las mujeres. Sí, claramente tenía que abordar este tema.
En este espacio procuraré examinar una de las dimensiones menos investigadas, pero relevantes, de la IA: cómo, a través de sus algoritmos y conjuntos de datos de entrenamiento, no solo refleja sino que a menudo amplifica los prejuicios y estereotipos de género incrustados en nuestra sociedad. Cómo la IA contribuye a la sexualización de las mujeres y qué acciones podríamos llevar a cabo para enfrentar y reducir esta problemática.
Algoritmos de aprendizaje automático y prejuicios de género
La IA se desarrolla mediante algoritmos de aprendizaje automático, nutridos por vastas cantidades de información. Estos datos, frecuentemente obtenidos de fuentes dominadas por puntos de vista y sesgos humanos, pueden ocasionar que la inteligencia artificial reproduzca patrones que incluyan prejuicios de género y, en consecuencia, la sexualización de la mujer. Ejemplos evidentes de esto abarcan algoritmos de generación de imágenes que presentan a las mujeres de forma estereotipada o sexualizada o los deepfakes.
En octubre de 2023, realizamos el ejercicio de probar 5 IA generadoras de contenidos y nos dimos cuenta de que se repetían patrones de sexismo, junto a otros como el racismo o el edadismo (el verdadero, no el de Risto Mejide). Es fascinante observar cómo han variado las imágenes generadas por IA en tan poco tiempo.
Evaluación a ChatGPT4
Realizando un simple ejercicio al solicitar a ChatGPT4 que genere una imagen de una mujer en diversos contextos. A continuación muestro mis resultados, aunque puedes verificarlo por ti mismo. En esta primera imagen le pedí a ChatGPT4 que creara una imagen de «una mujer comprando en las rebajas».
Como puedes notar, el primer resultado es una mujer ajustada en sus pantalones y blusa (por supuesto, con un escote pronunciado), luciendo tacones que parecen ser súper cómodos para salir de compras.
El segundo ejemplo que solicité fue una imagen de «una mujer ejecutiva de una gran empresa». En la imagen se observa a una mujer delgada, ajustada en un traje de chaqueta, blusa y falda corta. Además, llama mi atención su rostro. Está bastante maquillada y parece que lleva un filtro de Instagram que afina las facciones del rostro y ensancha los labios.
Más adelante solicité una imagen de «una mujer practicando ejercicio». La ilustración se expresa por sí misma. La mujer aparece en ropa interior y un sujetador «deportivo». En la zona de su vientre suceden situaciones, o mejor dicho no ocurren, ya que no hay espacio ni para aire. Además, nuevamente se visualiza el filtro de Instagram en su rostro o algún tipo de intervención estética.
A continuación, te presento la versión de «hombres realizando diversas actividades» para que puedan comparar los resultados.
Cuidado, si modificas el prompt en ChatGPT4 añadiendo más especificaciones cualitativas, la IA te proporciona una imagen más acorde a lo que consideras. En estos últimos tres ejemplos, presento los primeros resultados obtenidos con la mínima descripción.
Finalmente, te muestro otro ejemplo que guarda una relación considerable con esto. Hace una semana, trabajamos en una nueva tendencia relacionada con la creación de Funkos personalizados mediante IA. Para ello, elaboramos un tutorial en TikTok y un carrusel en Instagram exhibiendo los Funkos realizados de cada integrante del M4C Team. Durante el proceso de fabricación de estos Funkos, el prompt que usábamos para unos y otros era idéntico, simplemente cambiamos: «Figura Funko de hombre» por «Figura Funko de mujer» y los rasgos personales de cada uno. Pues bien, al hacer esto, la figura generada aparecía automáticamente maquillada, aunque no hubieras solicitado esta característica, con escote, poca vestimenta y con los senos prácticamente en la garganta. ¿Alguna vez habías observado senos en un Funko? Pues aquí lo tienes:
Deep fakes
En otro plano, presento en la pantalla los deep fakes, elementos multimedia (imágenes, videos o audios) falsos generados por inteligencia artificial, que replican la apariencia física y el sonido de personas reales. Lo alarmante de este tipo de contenido es que están tan bien elaborados que pueden parecer genuinos. Generalmente, estos implican la sustitución o superposición de rostros en videos, aunque también pueden aplicarse a imágenes y audios, recreando la voz de una persona.
Desde luego, los deep fakes pueden poseer aplicaciones beneficiosas, positivas e incluso entretenidas. Por ejemplo, la recreación de figuras históricas con objetivos educativos, optimizar la traducción de idiomas en videos, o su aplicación en efectos especiales en el cine.
Sin embargo, desafortunadamente, también presentan usos nocivos y perjudiciales, como sucede con los deep fakes pornográficos. En 2018, un usuario de Reddit utilizó deep fake por primera vez para crear un video pornográfico falso de Emma Watson y Natalie Portman. Entre 2022 y 2023, el número de pornografía deep fake generada incrementó un 464%, de acuerdo con este informe State of deep fakes 2023. Además, la producción de estos videos, que antes se enfocaba en mujeres famosas, ahora se ha extendido, afectando también a menores. Atención cuidada. La ginecóloga y comunicadora Miriam Al Adib denunció en septiembre de 2023 en sus redes sociales que habían hecho esto con una de sus hijas, generando mediante IA imágenes en las que aparecía desnuda.
El efecto de los deep fakes, especialmente en el contexto sexual, impacta predominantemente a mujeres, con el 99% del contenido deep fake pornográfico protagonizado por mujeres. Esta práctica constituye una forma de violencia, especialmente hacia la mujer, ya que les provoca daño psicológico, además de manipular y socavar la reputación de la afectada. A pesar de que las imágenes no sean auténticas, el impacto y la repercusión en las víctimas son sumamente elevados. Algunas de las mujeres famosas que han sido blanco de esta práctica recientemente incluyen a Laura Escanes, Rosalía, Marina Riverss, Ana de Armas, Scarlett Johansson y, hace muy pocos días, Taylor Swift.
Para tratar y mitigar los sesgos de género en la inteligencia artificial, es crucial adoptar enfoques integrales. Esto requiere asegurar la diversidad en los datos de entrenamiento para reflejar la complejidad humana, impulsar la sensibilización mediante talleres y cursos éticos, y promover la participación activa de mujeres en el desarrollo tecnológico para diversificar perspectivas. De igual forma, la realización de auditorías periódicas y la formulación de políticas éticas respaldadas por mecanismos de aplicación son fundamentales. Finalmente, fomentar la transparencia en los algoritmos facilitaría la identificación y rectificación de sesgos, contribuyendo así a una mejora continua.
