NiederlandeÖffentlicher Sektor2013–2021Niederländische Steuer- und Zollverwaltung
Risikoklassifizierungsmodell für Kinderbetreuungszuschüsse
Ein niederländischer Betrugsrisiko-Algorithmus, der die Staatsangehörigkeit berücksichtigte, trug dazu bei, dass Zehntausende Eltern zu Unrecht beschuldigt wurden, und brachte die Regierung zu Fall
Ausgangslage
Die niederländische Steuerbehörde zahlt berufstätigen Eltern Kinderbetreuungszuschüsse und wollte fehlerhafte oder betrügerische Anträge früh erkennen. Jeden Antrag von Hand zu prüfen, war nicht möglich.
Vorgehen
Ab 2013 bewertete die Behörde Anträge auf Kinderbetreuungszuschüsse mit einem algorithmischen Risikoklassifizierungsmodell und markierte die zu prüfenden Fälle. Laut Amnesty International war es eines der Risikomerkmale, keine niederländische Staatsangehörigkeit zu besitzen; nichtniederländische Antragsteller erhielten daher höhere Werte, und das System passte sich im Lauf der Zeit an, bei kaum wirksamer menschlicher Kontrolle. Zehntausende Eltern und Betreuungspersonen, überwiegend mit niedrigem Einkommen, wurden zu Unrecht als Betrüger behandelt und zur Rückzahlung der Zuschüsse aufgefordert. Die Affäre führte im Januar 2021 zum Rücktritt der niederländischen Regierung.
Kennzahlen
Erkenntnis
Der Schaden entstand aus der Verbindung eines Risikowerts, der die Staatsangehörigkeit nutzte, mit einer Durchsetzungspraxis, die eine Markierung als Beweis behandelte. Weil das Modell die Prüfziele vorgab und die Mitarbeiter ihnen folgten, zog sich die Verzerrung über Jahre durch die Entscheidungen, bevor sie auffiel.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Finanzen, Risiko und Recht
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Eigenentwicklung
- Nachweis
- Unabhängige Studie
Quellen
Quellenzusammenfassungen
Gibt die Erkenntnisse von Amnesty wieder, wonach ein 2013 von der niederländischen Steuerbehörde eingeführtes algorithmisches System zur Markierung fehlerhafter und betrügerischer Anträge auf Kinderbetreuungszuschüsse die niederländische Staatsangehörigkeit als Risikofaktor nutzte und Nichtniederländern höhere Werte zuwies. Das System habe ein selbstlernendes Element ohne wirksame menschliche Kontrolle gehabt. Zehntausende überwiegend einkommensschwache Eltern und Betreuungspersonen seien zu Unrecht des Betrugs beschuldigt worden, und die Affäre habe im Januar die Regierung zu Fall gebracht. Amnesty fordert ein Verbot, Staatsangehörigkeit und ethnische Herkunft bei der Risikobewertung zu verwenden.
Amnesty beschrieb, wie die Steuerbehörde mit einem algorithmischen Entscheidungssystem Risikoprofile von Antragstellern auf Kinderbetreuungszuschüsse erstellte, um unrichtige und möglicherweise betrügerische Anträge früh zu erkennen. Die Organisation kam zu dem Schluss, dass die Verwendung der Staatsangehörigkeit als Risikofaktor zu Diskriminierung und Racial Profiling führte, und bezeichnete die Niederlande als frühen Vorreiter bei der Automatisierung der Durchsetzung im Sozialleistungsrecht.
Ausführliche Angaben finden Sie in den Originalquellen.
