USAHandel und E-Commerce2014–2017Amazon
Werkzeug zur Vorauswahl von Lebensläufen mit maschinellem Lernen
Amazon verwarf eine experimentelle KI zur Bewertung von Lebensläufen, nachdem sie gelernt hatte, Frauen zu benachteiligen
Ausgangslage
Amazon stellte in sehr hohem Tempo ein und wollte mit weniger manueller Vorauswahl starke Kandidaten unter einer großen Zahl von Lebensläufen finden. Ingenieure beschrieben das Ziel als ein System, das 100 Lebensläufe erhält und die 5 besten zur Einstellung ausgibt.
Vorgehen
Ab 2014 entwickelte ein Team von etwa 12 Personen am Edinburgher Ingenieurstandort von Amazon Modelle, die Bewerber mit 1 bis 5 Sternen bewerteten. Die Modelle lernten aus Mustern in Lebensläufen, die über einen Zeitraum von 10 Jahren bei Amazon eingegangen waren, die meisten davon von Männern. Bis 2015 stellte das Unternehmen fest, dass das System Lebensläufe mit dem Wort „women’s“ sowie Absolventinnen von 2 reinen Frauencolleges abwertete.
Kennzahlen
Erkenntnis
Das Modell bildete das Geschlechterungleichgewicht der früheren Einstellungsdaten ab; Amazon machte es gegenüber diesen Begriffen neutral, konnte aber andere diskriminierende Muster nicht ausschließen und löste das Team bis Anfang 2017 auf. Quellen von Reuters sagten, Recruiter hätten die Rangfolgen herangezogen, ohne sich allein darauf zu stützen; Amazon wollte sich zu dem Werkzeug nicht äußern.
Kategorien
- Größe
- Großunternehmen
- Branche
- Handel und E-Commerce
- Unternehmensfunktion
- Personalwesen
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Eigenentwicklung
- Nachweis
- Presseberichterstattung
Quellen
Quellenzusammenfassungen
Reuters berichtet unter Berufung auf 5 mit dem Projekt vertraute Personen, ein Team in Edinburgh habe ab 2014 ein Werkzeug entwickelt, das Bewerber mit 1 bis 5 Sternen bewertete. Es nutzte Lebensläufe aus einem Zeitraum von 10 Jahren, die überwiegend von Männern stammten. Bis 2015 habe das System das Wort „women’s“ und Absolventinnen von 2 reinen Frauencolleges benachteiligt; Anpassungen hätten nicht garantieren können, dass es keine anderen Wege der Diskriminierung findet. Das Team wurde bis Anfang 2017 aufgelöst, und Amazon wollte sich zu dem Werkzeug nicht äußern.
BBC News berichtet, das Werkzeug habe Trainingsdaten aus 10 Jahren genutzt, die überwiegend von Männern stammten, um Kandidaten auf einer Skala von 1 bis 5 Sternen zu bewerten. Recruiter hätten Berichten zufolge die Empfehlungen des Werkzeugs betrachtet, sich aber nie allein darauf gestützt, und Amazon habe auf die Vorwürfe nicht reagiert. Die weltweite Belegschaft von Amazon sei im Verhältnis 60:40 zugunsten von Männern aufgeteilt.
Ausführliche Angaben finden Sie in den Originalquellen.
