La tecnología está presente en nuestra vida diaria para facilitarnos las cosas. Sin embargo, no podemos delegar completamente en ella. Este es un concepto que en Amazon comprenden claramente.
El coloso del comercio en línea ha optado por desechar la IA para el reclutamiento de personal. ¿La razón? El lenguaje utilizado por este tipo de herramientas mostraba un marcado sesgo discriminatorio hacia las mujeres.
En 2014, la empresa de Jeff Bezos comenzó a trabajar en un programa informático para analizar los CV de los candidatos a puestos de trabajo en la empresa. Se trataba de un sistema basado en la automatización de búsquedas para identificar a los talentos más destacados.
Según informa Reuters, el problema radicaba en que la herramienta de IA de Amazon mostraba un sesgo muy evidente en contra de las mujeres.
El funcionamiento de dicho sistema era similar al utilizado para calificar sus productos. El programa evaluaba a los candidatos con una escala de una a cinco estrellas en función de su cumplimiento de requisitos específicos.
En 2015, Amazon descubrió que la IA empleada no estaba siendo imparcial en la selección de candidatos para puestos de desarrollador de software y otras posiciones técnicas.
Se crearon hasta 500 modelos informáticos diseñados para buscar habilidades laborales específicas. Cada uno era capaz de reconocer hasta 50.000 términos presentes en los currículos, y los algoritmos empezaron a valorar las habilidades compartidas por los solicitantes.
El sesgo en este caso tenía su origen en que el programa de IA había sido entrenado con CV recopilados a lo largo de 10 años, en su mayoría de hombres, lo que llevó al sistema a descartar aquellos que incluían la palabra “mujeres”.
Amazon intentó reentrenar su sistema, pero al no lograr corregir el problema, optó por eliminarlo el año pasado. La empresa no ha realizado declaraciones al respecto, pero reafirma su compromiso con la igualdad en el ámbito laboral y la variedad.
