ChinaEducación2020–2023iTutorGroup
Selección automatizada de candidatos a tutor
El software de solicitudes de iTutorGroup rechazaba a tutores mayores según su fecha de nacimiento y acabó en un acuerdo de 365.000 dólares con la EEOC
Problema
iTutorGroup, una empresa de tutorías de inglés en línea para estudiantes de China, contrató a un gran número de tutores radicados en EE. UU. para impartir clases a distancia. Los candidatos se presentaban mediante un software de solicitudes en línea que pedía su fecha de nacimiento.
Enfoque
Según la Comisión para la Igualdad de Oportunidades en el Empleo de EE. UU. (EEOC), la empresa configuró su software de solicitudes de tutores para rechazar automáticamente a las mujeres de 55 años o más y a los hombres de 60 o más, a partir de la fecha de nacimiento indicada en la solicitud. La EEOC dijo que más de 200 candidatos cualificados de EE. UU. fueron rechazados de este modo en 2020 y presentó una demanda en 2022 con arreglo a la Ley de Discriminación por Edad en el Empleo. En agosto de 2023, la empresa aceptó un decreto de consentimiento, anunciado por la EEOC en septiembre, que prevé el pago de 365.000 dólares a los candidatos rechazados y le prohíbe pedir fechas de nacimiento. Para entonces, iTutorGroup había dejado de contratar tutores en EE. UU.
Cifras clave
Conclusión
Un simple límite de edad introducido en un programa, sin un modelo entrenado, dio lugar a lo que se consideró el primer acuerdo de la EEOC por sesgo en la contratación con IA. La aplicación de esa regla discriminatoria a todos los candidatos causó más de 200 rechazos y un procedimiento federal.
Categorías
- Sector
- Educación
- Función empresarial
- Recursos humanos
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- Robótica y automatización
- Adopción
- Desarrollo propio
- Respaldo
- Regulador, auditoría o tribunal
Fuentes
Resúmenes de fuentes
La EEOC anunció un acuerdo con iTutorGroup y 2 filiales, entre ellas Shanghai Ping An Intelligent Education Technology, que ofrecen tutorías de inglés a estudiantes de China. La EEOC alegó que el software de solicitudes rechazaba automáticamente a mujeres de 55 años o más y a hombres de 60 o más, y que dejó fuera a más de 200 candidatos cualificados de EE. UU. El acuerdo exigía un pago de 365.000 dólares, formación, una nueva política contra la discriminación, la prohibición de pedir fechas de nacimiento y al menos 5 años de supervisión.
Duane Morris describió el decreto de consentimiento presentado el 9 de agosto de 2023 como el primer acuerdo de la EEOC relacionado con el sesgo de un programa de IA. La denunciante, una mujer de más de 55 años, fue rechazada inmediatamente después de introducir su fecha de nacimiento. Los 365.000 dólares se destinan a los candidatos rechazados en marzo y abril de 2020, repartidos entre indemnización por daños y salarios atrasados.
La información completa figura en las fuentes originales.
