Amazon abandonó el proyecto de una IA para reclutar personal que acababa discriminando a mujeres

Los especialistas en aprendizaje automático de Amazon descubrieron un gran problema en su nuevo motor de reclutamiento: no le gustaban las mujeres, o al menos no hacía que el proceso de reclutamiento fuese justo.


Si quieres ayudarnos a seguir adelante, puedes unirte a SocialPubli usando el enlace de abajo para ganar dinero con tus redes sociales.

Gana dinero con SocialPubli


El equipo había estado construyendo programas informáticos desde 2014 para revisar el currículum de los solicitantes de empleo con el objetivo de mecanizar la búsqueda de los mejores talentos, y es que en grandes tareas con muchos datos, la inteligencia artificial permite reducir costes de forma considerable.

La automatización ha sido clave para el dominio del comercio electrónico de Amazon, ya sea dentro de almacenes o impulsando decisiones de precios. La herramienta experimental de contratación de la compañía usó inteligencia artificial para otorgar puntuaciones de candidatos de trabajo de una a cinco estrellas, de manera muy similar a como los compradores califican productos en Amazon.

Pero para el año 2015, la compañía se dio cuenta de que su nuevo sistema no estaba calificando a los candidatos para los trabajos de desarrollador de software y otros puestos técnicos de manera neutral al género. Esto se debe a que los modelos de Amazon fueron diseñados para evaluar a los solicitantes al observar los patrones en los currículos enviados a la compañía durante un período de 10 años. La mayoría provino de hombres, un reflejo del dominio masculino en la industria de la tecnología.

En efecto, el sistema de Amazon enseñó que los candidatos masculinos eran preferibles. Se penalizaron los currículos que incluían la palabra “mujeres”, como en “capitán de clubes de ajedrez para mujeres”. Y degradó a los graduados de dos universidades para mujeres, lo cual hacía una discriminación que no solamente no es aceptable si no que no tiene ningún sentido. Amazon editó los programas para hacerlos neutrales a estos términos particulares. Pero eso no era garantía de que las máquinas no idearan otras formas de clasificar a los candidatos que pudieran resultar discriminatorias.

La compañía de Seattle finalmente disolvió el equipo a principios del año pasado porque los ejecutivos perdieron la esperanza del proyecto. Los reclutadores de Amazon observaron las recomendaciones generadas por la herramienta al buscar nuevas contrataciones, pero nunca confiaron únicamente en esas clasificaciones, lo cual acabó con la utilidad de dicha herramienta.