États-UnisDistribution et commerce en ligne2014–2017Amazon
Outil d’apprentissage automatique de présélection de CV
Amazon abandonne une IA expérimentale de notation de CV après avoir constaté qu’elle pénalisait les femmes
Problématique
Amazon recrutait à un rythme très soutenu et voulait repérer de bons candidats parmi un grand nombre de CV avec moins de tri manuel. Les ingénieurs décrivaient l’objectif comme un système qui prendrait 100 CV et sélectionnerait les 5 meilleurs candidats à recruter.
Approche
À partir de 2014, une équipe d’environ 12 personnes du pôle d’ingénierie d’Amazon à Édimbourg a développé des modèles qui attribuaient aux candidats de 1 à 5 étoiles. Les modèles apprenaient à partir des CV reçus par Amazon sur 10 ans, dont la plupart émanaient d’hommes. Dès 2015, l’entreprise avait constaté que le système dévalorisait les CV contenant le mot « women’s » ainsi que les diplômées de 2 établissements d’enseignement supérieur exclusivement féminins.
Chiffres clés
Enseignement
Le modèle a reproduit le déséquilibre entre les sexes des recrutements passés ; Amazon l’a rendu neutre vis-à-vis de ces termes mais n’a pu exclure d’autres schémas discriminatoires, et avait dissous l’équipe au plus tard au début de 2017. Selon les sources de Reuters, les recruteurs consultaient ses classements sans s’y fier uniquement ; Amazon a refusé de commenter l’outil.
Catégories
- Taille
- Grande entreprise
- Fonction de l’entreprise
- Ressources humaines
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- Analyse prédictive et apprentissage automatique
- Mode d’adoption
- Développement interne
- Objectif
- Productivité et rapidité
- Type de preuve
- Travail journalistique
Sources
Résumés des sources
Reuters rapporte, en citant 5 personnes au fait du projet, qu’une équipe d’Édimbourg a conçu à partir de 2014 un outil qui notait les candidats de 1 à 5 étoiles à partir de 10 ans de CV provenant majoritairement d’hommes. Dès 2015, le système pénalisait le mot « women’s » et les diplômées de 2 établissements d’enseignement supérieur exclusivement féminins ; des modifications ne pouvaient garantir qu’il ne trouverait pas d’autres moyens de discriminer. L’équipe avait été dissoute au plus tard au début de 2017, et Amazon a refusé de commenter l’outil.
BBC News rapporte que l’outil s’appuyait sur 10 ans de données d’entraînement provenant majoritairement d’hommes pour noter les candidats sur une échelle de 1 à 5 étoiles. Selon le média, les recruteurs consultaient les recommandations de l’outil sans jamais s’y fier uniquement, et Amazon n’avait pas répondu à ces affirmations. Il ajoute que les effectifs mondiaux d’Amazon se répartissaient à 60 % d’hommes contre 40 % de femmes.
Les informations complètes figurent dans les sources d’origine.
