ChineÉducation2020–2023iTutorGroup
Présélection automatisée des candidats au poste de tuteur
Le logiciel de candidature d’iTutorGroup rejetait les tuteurs âgés d’après leur date de naissance, ce qui a abouti à un règlement amiable de 365 000 dollars avec l’EEOC
Problématique
iTutorGroup, une entreprise de cours d’anglais en ligne destinés à des élèves en Chine, recrutait un grand nombre de tuteurs basés aux États-Unis pour enseigner à distance. Les candidats postulaient via un logiciel de candidature en ligne qui demandait leur date de naissance.
Approche
Selon l’Equal Employment Opportunity Commission (EEOC) des États-Unis, l’entreprise avait paramétré son logiciel de candidature pour rejeter automatiquement les femmes de 55 ans ou plus et les hommes de 60 ans ou plus, d’après la date de naissance indiquée dans le dossier. L’EEOC a indiqué que plus de 200 candidats qualifiés aux États-Unis avaient été écartés de cette façon en 2020 et a engagé des poursuites en 2022 sur le fondement de l’Age Discrimination in Employment Act. En août 2023, l’entreprise a accepté un accord judiciaire (consent decree), annoncé par l’EEOC en septembre, qui prévoit le versement de 365 000 dollars aux candidats rejetés et lui interdit de demander les dates de naissance. iTutorGroup avait alors cessé de recruter des tuteurs aux États-Unis.
Chiffres clés
Enseignement
Un simple seuil d’âge saisi dans un logiciel, sans modèle entraîné, a donné lieu à ce qui a été considéré comme le premier règlement amiable de l’EEOC portant sur un biais d’IA dans le recrutement. L’application de cette règle discriminatoire à chaque candidat a entraîné plus de 200 rejets et une procédure fédérale.
Catégories
- Secteur
- Éducation
- Fonction de l’entreprise
- Ressources humaines
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- Robotique et automatisation
- Mode d’adoption
- Développement interne
- Type de preuve
- Régulateur, audit ou tribunal
Sources
Résumés des sources
L’EEOC a annoncé un règlement amiable avec iTutorGroup et 2 sociétés affiliées, dont Shanghai Ping An Intelligent Education Technology, qui dispensent des cours d’anglais à des élèves en Chine. L’EEOC affirmait que le logiciel de candidature rejetait automatiquement les femmes de 55 ans et plus et les hommes de 60 ans et plus, écartant plus de 200 candidats qualifiés aux États-Unis. Le règlement exigeait un paiement de 365 000 dollars, une formation, une nouvelle politique de lutte contre la discrimination, l’interdiction de demander les dates de naissance et un suivi d’au moins 5 ans.
Duane Morris a décrit l’accord judiciaire (consent decree) déposé le 9 août 2023 comme le premier règlement de l’EEOC portant sur le biais d’un logiciel d’IA. La plaignante, une femme de plus de 55 ans, a été rejetée aussitôt après avoir saisi sa date de naissance. Les 365 000 dollars sont destinés aux candidats rejetés en mars et en avril 2020, répartis entre dommages-intérêts compensatoires et rappel de salaire.
Les informations complètes figurent dans les sources d’origine.
