ChinaEducação2020–2023iTutorGroup
Triagem automatizada de candidatos a professores particulares
Software de candidaturas da iTutorGroup rejeitou professores mais velhos pela data de nascimento, e o caso terminou em acordo de US$ 365.000 com a EEOC
Problema
A iTutorGroup, empresa de aulas particulares de inglês on-line para alunos na China, contratava grande número de professores nos Estados Unidos para lecionar remotamente. Os candidatos se inscreviam por um software de candidaturas on-line que pedia a data de nascimento.
Abordagem
Segundo a Equal Employment Opportunity Commission (EEOC), a agência federal americana de igualdade de oportunidades no emprego, a empresa configurou o software de candidaturas de professores para rejeitar automaticamente mulheres com 55 anos ou mais e homens com 60 anos ou mais, com base na data de nascimento informada. A EEOC disse que mais de 200 candidatos qualificados nos Estados Unidos foram barrados dessa forma em 2020 e processou a empresa em 2022, com base na lei contra a discriminação por idade no emprego (Age Discrimination in Employment Act). Em agosto de 2023, a empresa aceitou um acordo judicial (consent decree), anunciado pela EEOC em setembro, que prevê o pagamento de US$ 365.000 aos candidatos rejeitados e a proíbe de pedir datas de nascimento. A iTutorGroup já havia deixado de contratar professores nos Estados Unidos.
Números principais
Lição
Um simples corte de idade inserido no software, sem modelo treinado, levou ao que foi tratado como o primeiro acordo da EEOC por viés de IA em contratação. A aplicação dessa regra discriminatória a todos os candidatos causou mais de 200 rejeições e um processo federal.
Categorias
- Setor
- Educação
- Função empresarial
- Recursos humanos
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Robótica e automação
- Forma de adoção
- Desenvolvimento interno
- Evidência
- Órgão regulador, auditoria ou tribunal
Fontes
Resumos das fontes
A EEOC anunciou um acordo com a iTutorGroup e 2 afiliadas, entre elas a Shanghai Ping An Intelligent Education Technology, que oferecem aulas particulares de inglês a alunos na China. A EEOC alegou que o software de candidaturas rejeitava automaticamente mulheres com 55 anos ou mais e homens com 60 anos ou mais, barrando mais de 200 candidatos qualificados nos Estados Unidos. O acordo exigiu um pagamento de US$ 365.000, treinamento, uma nova política contra a discriminação, a proibição de pedir datas de nascimento e pelo menos 5 anos de monitoramento.
O escritório Duane Morris descreveu o acordo judicial protocolado em 9 de agosto de 2023 como o primeiro acordo da EEOC envolvendo viés de software de IA. A autora da denúncia, uma mulher com mais de 55 anos, foi rejeitada imediatamente após informar sua data de nascimento. Os US$ 365.000 vão para os candidatos rejeitados em março e abril de 2020, divididos entre indenização por danos e pagamento de salários retroativos.
Os detalhes completos estão disponíveis nas fontes originais.
