NiederlandeÖffentlicher Sektor2017–2021Stadt Rotterdam
Risikobewertung von Sozialleistungsempfängern durch maschinelles Lernen
Rotterdam setzte sein Modell zur Erkennung von Sozialleistungsbetrug 2021 aus, nachdem sich nicht behebbare Verzerrungen gezeigt hatten
Ausgangslage
Rotterdam wollte jährlich auswählen, welche der rund 30.000 Sozialleistungsempfänger auf Betrug untersucht werden sollten.
Vorgehen
Seit 2017 nutzte die Stadt ein Modell für maschinelles Lernen, das jedem Empfänger anhand von 315 Variablen einen Wert zwischen 0 und 1 zuwies. Etwa 1.000 Personen pro Jahr wurden zur Untersuchung weitergeleitet. Lighthouse Reports analysierte das Modell 2023 und stellte eine Benachteiligung bestimmter Gruppen fest.
Kennzahlen
Erkenntnis
Laut Lighthouse ergaben die eigenen Bewertungen der Stadt, dass das Modell nur etwa 50 Prozent genauer war als eine zufällige Auswahl. Die Stadt setzte es Mitte 2021 aus, nachdem Prüfungen Verzerrungen festgestellt hatten, die sie nicht beseitigen konnte.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Finanzen, Risiko und RechtProduktion und Qualität
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Eigenentwicklung
- Nachweis
- Angabe des Unternehmens
Quellen
Quellenzusammenfassungen
Lighthouse Reports beschreibt, wie es Rotterdams Risikobewertungsmodell beschaffte und testete, einschließlich der Eingabedaten und Schwellenwerte. Es berichtet über das interne Ergebnis der Stadt zur Genauigkeit und die Aussetzung im Jahr 2021.
Ausführliche Angaben finden Sie in den Originalquellen.
