NiederlandeÖffentlicher Sektor2019–2023Stadt Amsterdam
Risikomodell Smart Check für Sozialleistungsanträge
Amsterdam stoppte 2023 sein Risikomodell zur Aufdeckung von Sozialbetrug, nachdem ein Pilotversuch mit etwa 1.600 Anträgen mehr Personen markiert und neue Verzerrungen gezeigt hatte
Ausgangslage
Sachbearbeiter prüften Anträge auf Sozialleistungen auf Fehler und Betrug, und nach Angaben der Stadt ergaben mehr als die Hälfte der Untersuchungen keinen Verstoß. Die Stadt suchte ein gerechteres und genaueres Verfahren zur Auswahl der Fälle.
Vorgehen
Die Arbeit begann 2019. Das Modell wurde mit 3.400 früheren Untersuchungen trainiert, nutzte 15 Merkmale und ließ Geschlecht, Staatsangehörigkeit und Alter außen vor. Eine Neugewichtung der Trainingsdaten glich in Tests die Fehlerquoten zwischen niederländischen und nicht niederländischen Antragstellern an. 2023 begann ein Pilotversuch, den die Stadt im November 2023 beendete, weil sie unerwünschte Diskriminierung nicht ausschließen konnte.
Kennzahlen
Erkenntnis
MIT Technology Review berichtete von erneuten Verzerrungen im laufenden Pilotversuch. Die Stadt meldete weniger falsch positive Ergebnisse als beim alten Verfahren, erklärte aber, ihre Analyse der Verzerrungen habe kein eindeutiges Ergebnis erbracht; die Entwicklung endete im November 2023.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Finanzen, Risiko und RechtProduktion und Qualität
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Eigenentwicklung
- Nachweis
- Presseberichterstattung
Quellen
Quellenzusammenfassungen
MIT Technology Review, Lighthouse Reports und Trouw untersuchten das Modell anhand städtischer Unterlagen und eigener Tests auf Verzerrungen. Sie fanden Verzerrungen in den Tests von 2022 und nach Gegenmaßnahmen erneut in einem Pilotversuch mit etwa 1.600 Anträgen, bei dem mehr Antragsteller markiert wurden. Die Stadt schätzte die internen Kosten auf rund 500.000 Euro, zuzüglich eines Vertrags mit Deloitte über 35.000 Euro, und hatte jährliche Einsparungen von 2,4 Mio. Euro erwartet.
Die Stadt erklärte, der Pilotversuch sei von April bis August 2023 nach etwa 3 Jahren Entwicklung gelaufen. Die abschließende Auswertung ergab weniger falsch positive Ergebnisse als beim alten Verfahren, die Analyse der Verzerrungen lieferte jedoch kein eindeutiges Ergebnis. Der Partizipationsrat hatte 2022 zum Stopp geraten, und der Beigeordnete entschied im November 2023 im Einvernehmen mit dem Rat, das Vorhaben zu beenden.
Ausführliche Angaben finden Sie in den Originalquellen.
