ChinaBildung2020–2023iTutorGroup
Automatisierte Vorauswahl von Bewerbern als Tutoren
Die Bewerbungssoftware von iTutorGroup lehnte ältere Tutoren anhand des Geburtsdatums ab; der Fall endete mit einem Vergleich mit der EEOC über 365.000 US-Dollar.
Ausgangslage
iTutorGroup, ein Online-Anbieter von Englischnachhilfe für Schüler in China, stellte in großer Zahl in den USA ansässige Tutoren ein, die aus der Ferne unterrichten. Bewerber bewarben sich über eine Online-Bewerbungssoftware, die nach ihrem Geburtsdatum fragte.
Vorgehen
Laut der US-Gleichstellungsbehörde EEOC (Equal Employment Opportunity Commission) stellte das Unternehmen seine Bewerbungssoftware für Tutoren so ein, dass sie Frauen ab 55 Jahren und Männer ab 60 Jahren anhand des Geburtsdatums in der Bewerbung automatisch ablehnte. Die EEOC erklärte, auf diese Weise seien 2020 mehr als 200 qualifizierte Bewerber in den USA abgewiesen worden, und klagte 2022 nach dem Age Discrimination in Employment Act, dem Gesetz gegen Altersdiskriminierung im Berufsleben. Im August 2023 stimmte das Unternehmen einem Consent Decree zu, einem gerichtlich gebilligten Vergleich, den die EEOC im September bekannt gab; er sieht 365.000 US-Dollar für die abgelehnten Bewerber vor und untersagt dem Unternehmen, nach Geburtsdaten zu fragen. iTutorGroup hatte zu diesem Zeitpunkt die Einstellung von Tutoren in den USA bereits eingestellt.
Kennzahlen
Erkenntnis
Eine einfache, in der Software hinterlegte Altersgrenze führte ohne ein trainiertes Modell zu einem Vergleich, der als erster Vergleich der EEOC wegen diskriminierender KI bei Einstellungen galt. Die Anwendung dieser diskriminierenden Regel auf jeden Bewerber führte zu mehr als 200 Ablehnungen und einem Verfahren vor einem US-Bundesgericht.
Kategorien
- Branche
- Bildung
- Unternehmensfunktion
- Personalwesen
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Robotik und Automatisierung
- Einführung
- Eigenentwicklung
- Nachweis
- Aufsichtsbehörde, Prüfung oder Gericht
Quellen
Quellenzusammenfassungen
Die EEOC gab einen Vergleich mit iTutorGroup und 2 verbundenen Unternehmen bekannt, darunter Shanghai Ping An Intelligent Education Technology, die Schülern in China Englischnachhilfe anbieten. Die EEOC warf den Unternehmen vor, ihre Bewerbungssoftware habe Frauen ab 55 und Männer ab 60 automatisch abgelehnt und so mehr als 200 qualifizierte Bewerber in den USA abgewiesen. Der Vergleich verlangte eine Zahlung von 365.000 US-Dollar, Schulungen, eine neue Richtlinie gegen Diskriminierung, ein Verbot, nach Geburtsdaten zu fragen, und eine Überwachung von mindestens 5 Jahren.
Duane Morris beschrieb das am 9. August 2023 eingereichte Consent Decree als den ersten Vergleich der EEOC im Zusammenhang mit Voreingenommenheit von KI-Software. Die Beschwerdeführerin, eine Frau über 55, wurde unmittelbar nach Eingabe ihres Geburtsdatums abgelehnt. Die 365.000 US-Dollar gehen an Bewerber, die im März und April 2020 abgelehnt wurden, aufgeteilt auf Schadenersatz und nachzuzahlenden Lohn (Back Pay).
Ausführliche Angaben finden Sie in den Originalquellen.
