Estados UnidosComercio minorista y electrónico2014–2017Amazon
Herramienta de selección de currículos con aprendizaje automático
Amazon abandonó una IA experimental de puntuación de currículos después de que aprendiera a penalizar a las mujeres
Problema
Amazon contrataba a un ritmo muy rápido y quería encontrar buenos candidatos entre un gran número de currículos con menos selección manual. Los ingenieros describían el objetivo como un sistema que tomara 100 currículos y devolviera los 5 mejores para contratar.
Enfoque
A partir de 2014, un equipo de unas 12 personas del centro de ingeniería de Amazon en Edimburgo desarrolló modelos que puntuaban a los candidatos de 1 a 5 estrellas. Los modelos aprendieron de los patrones de los currículos recibidos por Amazon a lo largo de 10 años, la mayoría de hombres. Para 2015, la compañía ya había descubierto que el sistema penalizaba los currículos que contenían la palabra “women’s” (de mujeres) y los de egresadas de 2 universidades femeninas.
Cifras clave
Conclusión
El modelo reprodujo el desequilibrio de género de los datos de contratación anteriores; Amazon lo hizo neutral ante esos términos, pero no pudo descartar otros patrones discriminatorios y había disuelto el equipo a más tardar a principios de 2017. Las fuentes de Reuters indicaron que los reclutadores consultaban sus clasificaciones sin basarse únicamente en ellas; Amazon declinó hacer comentarios sobre la herramienta.
Categorías
- Tamaño
- Gran empresa
- Función empresarial
- Recursos humanos
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- Análisis predictivo y aprendizaje automático
- Adopción
- Desarrollo propio
- Objetivo
- Productividad y rapidez
- Respaldo
- Información de prensa
Fuentes
Resúmenes de fuentes
Reuters informa, citando a 5 personas familiarizadas con el proyecto, de que un equipo de Edimburgo desarrolló desde 2014 una herramienta que puntuaba a los candidatos de 1 a 5 estrellas a partir de 10 años de currículos mayoritariamente masculinos. Para 2015, el sistema ya penalizaba la palabra “women’s” y a las egresadas de 2 universidades femeninas; las modificaciones no podían garantizar que no encontrara otras vías de discriminación. El equipo había sido disuelto a más tardar a principios de 2017 y Amazon declinó hacer comentarios sobre la herramienta.
BBC News informa de que la herramienta utilizaba 10 años de datos de entrenamiento mayoritariamente masculinos para puntuar a los candidatos en una escala de 1 a 5 estrellas. Señala que, según se informó, los reclutadores consultaban las recomendaciones de la herramienta, pero nunca se basaban únicamente en ellas, y que Amazon no había respondido a las acusaciones. Añade que la plantilla mundial de Amazon se repartía en una proporción de 60:40 a favor de los hombres.
La información completa figura en las fuentes originales.
