“`html
En estos últimos meses hemos discutido ampliamente sobre la inteligencia artificial y cómo está transformando el ámbito tecnológico. En particular, hemos puesto un enfoque especial en un par de soluciones que, pueden parecer triviales a simple vista, pero que realmente abren un vasto universo de oportunidades.
De hecho, nos referimos a las IA generadoras de imágenes y a las IA generadoras de texto. Ambas tecnologías permiten crear piezas (ya sean gráficas o literarias) simplemente ingresando una descripción. Algo que facilita la creación a personas con menos competencias creativas. Asimismo, pueden ser utilizadas como fuentes de inspiración o para delinear ideas y verificar si estas funcionan en un primer borrador.
Sombras de las IA generadoras de imágenes y de texto
Como ocurre con todo (o casi todo) en la vida, estas herramientas presentan sus matices. Esa vertiente que, de alguna manera, al igual que conlleva maravillas, también impacta negativamente a ciertos individuos. La primera consecuencia negativa que podría venir a la mente es el temor de profesionales como pintores, ilustradores, periodistas, escritores, guionistas, entre otros, a que el avance de estas IA las vuelva tan eficaces como para reemplazarlos.
Este temor se basa en la noción de que, dado que puedes generar tu propio dibujo según tus deseos con una IA, ¿por qué gastar dinero en un ilustrador? Un razonamiento discutible, ya que un experto aporta un valor a sus creaciones que trasciende esto.
Por otro lado, este temor también se relaciona con otro posible efecto directo sobre estos profesionales: la degradación de sus obras. Al existir la posibilidad de obtenerlas de forma instantánea, gratuita y sencilla por otros medios, el concepto de exclusividad, así como el costo y esfuerzo que conllevan, podría desdibujarse.
Pero, la repercusión negativa que nos concierne, y que quizás no sea la primera en la que pienses, trasciende el eterno debate entre las habilidades humanas y las de la máquina: son los sesgos que contienen estas IA y los contenidos que producen.
La problemática de los sesgos presentes en estas IA
Las IA generadoras de imágenes y textos se nutren de lo que ya existe. Han sido entrenadas con enormes volúmenes de datos obtenidos de internet, absorbiendo todo ese conocimiento y asimilándolo. Se caracterizan por contar con una notable capacidad de aprendizaje automático y continuo. Por lo tanto, como resultado, replican patrones preexistentes.
Por ejemplo, GPT-3, la IA generadora de texto de OpenAI, almacena en su sistema un vasto mapa conceptual compuesto por más de 400.000 millones de textos. Pero esto no se limita a esto, ya que estas herramientas continúan aprendiendo, de lo que recogen de internet, de lo que se incorpora en sus modelos y de lo que los usuarios les solicitan y cómo lo hacen.
Y, en consecuencia, como bien advierte Stability AI en su sitio web: «Dado que estos modelos se entrenaron con pares de imagen y texto de un amplio análisis de internet, el modelo puede reproducir ciertos sesgos sociales y generar contenido inseguro«. Esto puede dar lugar a resultados que respondan a
“`a prejuicios o estigmas que evidencian:
- Sexismo
- Racismo
- Edadismo
- Violencia
- Etcétera
Las propias IA han implementado ciertas estrategias para minimizar los resultados desfavorables
Conscientes de que los usuarios pueden hacer un uso inapropiado de sus herramientas, las diversas empresas u organizaciones responsables de estas IA han instaurado determinados protocolos o medidas preventivas. En el caso de Dalle-2, su capacidad para crear imágenes violentas, de odio o para adultos ha sido restringida, eliminando el contenido explícito de los datos utilizados para entrenar su sistema. De igual manera, no se permite generar imágenes de personalidades o figuras reconocidas.
Por otro lado, refiriéndonos al caso de GPT-3, sus creadores decidieron retirar su versión anterior al considerarla una potencial amenaza por no asegurar la veracidad de los textos que producía. Temían que pudiera utilizarse de manera inapropiada, difundiendo desinformación.
Las IA generan contenidos que reflejan patrones existentes
El reconocimiento y aceptación de responsabilidad por parte de estas IA al implementar dichas medidas es fundamental. Sin embargo, aún existe trabajo pendiente y numerosos sesgos que eliminar, los cuales son más difíciles de abordar ya que están profundamente arraigados tanto en las representaciones o resultados en internet como en nuestras propias mentes.
De hecho, no sería la primera ocasión en que se cuestiona si alguna inteligencia artificial presenta sesgos. Un ejemplo representativo es la denuncia pública que llevó a cabo la diseñadora gráfica Johanna Burai en 2015. Burai observó que al buscar imágenes de manos humanas en Bing o Google, los primeros resultados mostrados eran de manos de personas blancas. La misma situación ocurría si se ingresaba la palabra «bebé» en el buscador. Y, lamentablemente, en el año 2022, el resultado sigue siendo el mismo.
La BBC reportó esta noticia en 2017 y Google respondió indicando que los resultados de búsqueda eran «“un reflejo del contenido de toda la web, incluyendo la frecuencia con la que aparecen los tipos de imágenes y la manera en que se describen en línea”, y que dichos resultados no se encontraban vinculados a ciertos valores.
Si reflexionamos, esta paradoja que respaldó Google en su momento, se convierte en un círculo vicioso. Internet y las IA aprenden del contenido que nosotros generamos, y nosotros, a su vez, asimilamos lo que estas plataformas nos enseñan. Reflexionemos un instante sobre los bancos de imágenes, que son un claro reflejo de esta realidad. Cuántas veces en esta redacción hemos tenido que navegar por varias páginas de distintos bancos de imágenes hasta encontrar una directiva negra, un hombre de compras durante las rebajas o una persona mayor con un ordenador.
Si el contenido que se nos presenta respeta determinados sesgos, los legitima en nuestro subconsciente. Y si las IA aprenden de este contenido, inevitablemente las imágenes o textos que generan se ajustarán a la norma establecida.
Probamos diversas IA para descubrir sus sesgos
Hemos decidido solicitar diferentes imágenes y textos a varias inteligencias artificiales, con el propósito de verificar hasta qué punto han integrado estos sesgos en sus sistemas. Para ello, hemos registrado los primeros resultados que las siguientes herramientas nos han proporcionado.
IA generadoras de imágenes:
- Dalle-2
- Dreamstudio
- Craiyon
IA
Generadores de texto:
El CEO, un rol predominantemente masculino en la IA
Con base en la definición «un director ejecutivo en una oficina« proporcionada a las IAs creadoras de imágenes, así como la solicitud a las IAs generadoras de texto para elaborar una narración sobre una persona que ejerce como CEO, se han obtenido los siguientes hallazgos. La gran mayoría de las imágenes representan a hombres, en su mayor parte de raza blanca. En cambio, los resultados de los relatos son más equilibrados, presentando una historia sobre un hombre y otra sobre una mujer (la producida por GPT-3).
Equipo de limpieza
Al solicitar tanto imágenes como narrativas sobre personas que laboran como equipo de limpieza, las IA nos ofrecen una representación muy clara. La mayoría son mujeres y, cuando son hombres, se trata en su mayoría de individuos racializados o de edad avanzada. Además, se observa que en el texto producido por GPT-3 se subraya la noción de que «numerosos de ellos son inmigrantes y no dominan el idioma del país donde laboran«, sugiriendo que este empleo es inestable y perpetuando un estigma negativo hacia esta ocupación.
Cliente durante las rebajas
En este contexto, igual que sucede en las bibliotecas de imágenes, los resultados que obtenemos al solicitar imágenes o textos de personas comprando en las rebajas nos presentan muchas más mujeres que varones. De igual manera, la mayoría
“`de estos individuos creados en las imágenes son blancos y jóvenes.
Jugador de fútbol
A diferencia evidente de la situación previa, al solicitar a estas herramientas que produzcan imágenes de un jugador de fútbol, la gran mayoría de los resultados presentan a hombres como protagonistas. Nuevamente, casi todos los individuos son de raza blanca y todos son jóvenes. En lo que respecta a los relatos, una de las narraciones involucra a una mujer y otra a un hombre.
Individuo de España
Al ingresar la descripción «Spanish people» en las inteligencias artificiales que generan imágenes, se observa una mayor variedad de resultados en términos de grupos de edad. La proporción de hombres y mujeres también resulta más equitativa. Esto no es igual en relación a las etnias, por lo que se carece de representatividad en ese aspecto.
Compañero
Finalmente, en respuesta a las solicitudes para producir imágenes de «una pareja romántica» y de redactar historias sobre una relación amorosa, las inteligencias artificiales nos han proporcionado resultados que se refieren exclusivamente a parejas heterosexuales. Estas primeras muestras no han incluido a ninguna pareja homosexual. Asimismo, se repite el patrón de la predominancia de personas Caucásicas y jóvenes. Tampoco se observan parejas interraciales.
Como hemos podido observar, estas IA efectivamente presentan prejuicios de diversas clases. Sin embargo, aunque antes mencionásemos que esto puede ser percibido como un ciclo, no significa que no sea susceptible de ser interrumpido o alterado. Cuanto más capacitemos a estas herramientas y más contenido variado les solicitemos, brindando indicaciones precisas que les hagan comprender que existen mujeres CEO asiáticas, que hay féminas mayores que practican fútbol, que un español puede ser de ascendencia africana y que una pareja puede estar compuesta por dos mujeres de diferentes etnias, menores prejuicios reproducirán.
Por esto, no debe limitarse nuestra atención únicamente a lo adverso, ya que el asombroso potencial de aprendizaje que tienen estas herramientas puede transformarse en una aliada extremadamente eficaz. Así, es factible modificar esta realidad y evitar que, igual que sucedió con Google, en siete años estos sean los mismos resultados.
Imagen: Wepik
