La inteligencia artificial de Amazon, diseñada para clasificar los currículums de los solicitantes de empleo, clasificó a los hombres por encima de las mujeres. En particular, rechazó los CV con la palabra “femenino” y se ofreció a contratar candidatos que usaran verbos masculinos típicos en su discurso, incluso si estas personas no tenían las habilidades necesarias. Como resultado, la empresa tuvo que cerrar el proyecto.
Inteligencia artificial de RRHH
Los expertos en aprendizaje automático de Amazon han descubierto que la inteligencia artificial que procesa el currículum de los candidatos a puestos en la empresa discrimina a las mujeres que buscan trabajo, informó Reuters. Esta característica no se incorporó intencionalmente al sistema, fue el resultado del aprendizaje automático.
norte
Un motor de clasificación de currículums basado en inteligencia artificial se ha estado desarrollando en Amazon desde 2014 por un equipo de 12 personas en Edimburgo. Ya en 2015, la empresa notó que el nuevo sistema no se apegaba al principio de neutralidad de género al evaluar candidatos para puestos de desarrollo de software y otras vacantes técnicas.
Pronto se dieron cuenta de la razón: lo cierto es que el sistema fue capacitado en los currículos ingresados por la empresa durante los últimos 10 años. La mayoría de estos CV estaban en manos de hombres, lo que refleja ampliamente la situación en la industria de las tecnologías de la información. Como resultado, la inteligencia artificial de Amazon descubrió que los hombres que buscan trabajo son preferidos a las mujeres.
Rechazo lingüístico
Video promocional:
Como resultado, la inteligencia artificial comenzó a rechazar los currículums que contenían la palabra "mujer" en expresiones como "capitana del club de ajedrez femenino". El mecanismo también rebajó las calificaciones de los graduados de dos universidades para mujeres, pero fuentes de Reuters no especificaron sus nombres. Al evaluar los currículums, la inteligencia artificial les otorgó entre una y cinco estrellas, muy similar a cómo los compradores califican los productos en Amazon.
El sistema también prestó atención a otras palabras. Los desarrolladores han creado 500 modelos de computadora para diferentes responsabilidades laborales y ubicaciones geográficas. Cada modelo fue entrenado para reconocer alrededor de 50 mil palabras clave que estaban presentes en el currículum del solicitante.
Cabe destacar que el mecanismo ignoró las palabras que denotan habilidades que a menudo se detallan en el currículum de los especialistas en TI, como la capacidad de escribir varios códigos, etc. En cambio, el sistema rastreó, por ejemplo, los verbos típicos del habla masculina en la autodescripción de los candidatos, como "cumplido". (ejecutado) o "capturado", como se veían regularmente en los viejos currículos de los que la máquina aprendió. Con este enfoque, la discriminación de género no fue el único problema: el mecanismo a menudo recomendaba a personas que no tenían las habilidades necesarias para el puesto.
El futuro destino del proyecto
Amazon ha ajustado el sistema para que ya no responda a las palabras clave. Sin embargo, esto no era una garantía de que el mecanismo no encontraría otra forma de identificar los currículums propiedad de mujeres. A principios de 2017, la empresa se desilusionó con el proyecto y disolvió el equipo. Fuentes de Reuters dicen que los especialistas en recursos humanos tomaron en cuenta las recomendaciones del sistema, pero nunca se basaron únicamente en ellas.
Una de las fuentes dice que el proyecto está cerrado. Otro sostiene que se formó un nuevo equipo en Edimburgo para seguir desarrollando el mecanismo, pero esta vez con un enfoque en la equidad y la inclusión. Otra fuente informa que ahora se está utilizando una versión muy modificada del motor para realizar trabajos de rutina, como eliminar currículums duplicados de la base de datos.