EUAVarejo e e-commerce2014–2017Amazon
Ferramenta de triagem de currículos com aprendizado de máquina
Amazon abandonou uma IA experimental de avaliação de currículos depois que ela aprendeu a penalizar mulheres
Problema
A Amazon contratava em ritmo muito acelerado e queria encontrar bons candidatos em grande volume de currículos com menos triagem manual. Os engenheiros descreviam o objetivo como um sistema que receberia 100 currículos e devolveria os 5 melhores para contratar.
Abordagem
A partir de 2014, uma equipe de cerca de 12 pessoas no polo de engenharia da Amazon em Edimburgo criou modelos que atribuíam aos candidatos de 1 a 5 estrelas. Os modelos aprenderam com padrões de currículos enviados à Amazon ao longo de 10 anos, a maioria de homens. Em 2015, a empresa já havia constatado que o sistema rebaixava currículos que continham a palavra “women’s” (“de mulheres”) e formadas em 2 faculdades exclusivamente femininas.
Números principais
Lição
O modelo reproduziu o desequilíbrio de gênero dos dados de contratações passadas; a Amazon o tornou neutro em relação a esses termos, mas não pôde descartar outros padrões discriminatórios e desfez a equipe até o início de 2017. Fontes da Reuters disseram que os recrutadores consultavam suas classificações sem depender apenas delas; a Amazon se recusou a comentar a ferramenta.
Categorias
- Porte
- Grande empresa
- Setor
- Varejo e e-commerce
- Função empresarial
- Recursos humanos
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e ML
- Forma de adoção
- Desenvolvimento interno
- Objetivo
- Produtividade e agilidade
- Evidência
- Apuração jornalística
Fontes
Resumos das fontes
A Reuters relata, citando 5 pessoas familiarizadas com o projeto, que uma equipe de Edimburgo criou a partir de 2014 uma ferramenta que avaliava candidatos de 1 a 5 estrelas com base em 10 anos de currículos majoritariamente masculinos. Em 2015, o sistema já penalizava a palavra “women’s” e formadas em 2 faculdades femininas; ajustes não garantiam que ele não encontraria outras formas de discriminar. A equipe foi desfeita até o início de 2017, e a Amazon se recusou a comentar a ferramenta.
A BBC News relata que a ferramenta usava 10 anos de dados de treinamento majoritariamente masculinos para avaliar candidatos em uma escala de 1 a 5 estrelas. Observa que os recrutadores, segundo relatos, olhavam as recomendações da ferramenta, mas nunca dependiam apenas delas, e que a Amazon não havia respondido às alegações. Acrescenta que a força de trabalho global da Amazon se dividia em 60:40 a favor dos homens.
Os detalhes completos estão disponíveis nas fontes originais.
