DänemarkÖffentlicher Sektor2024 – laufendUdbetaling Danmark (UDK) und ATP
Algorithmische Modelle zur Betrugskontrolle bei Sozialleistungen
Amnesty zufolge setzt Dänemarks Sozialleistungsbehörde bis zu 60 Modelle zur Betrugserkennung ein, die Diskriminierungsrisiken bergen (November 2024)
Ausgangslage
UDK und die Renteneinrichtung ATP nutzen bis zu 60 algorithmische Modelle, um Personen für Betrugsprüfungen zu markieren. Amnesty erhielt teilweise Zugang zu vier davon.
Vorgehen
Amnesty zufolge führen die gemeinsam mit dem Unternehmen NNIT entwickelten Modelle Daten von Millionen Einwohnern zusammen und können Menschen mit Behinderungen, geringem Einkommen oder Migrationshintergrund diskriminieren. UDK wies Amnestys Einschätzung zurück, dass das System einem Social Scoring gleichkomme, und lehnte eine gemeinsame Prüfung mit vollständigem Zugang zu Code und Daten ab.
Kennzahlen
Erkenntnis
UDK lehnte eine gemeinsame Prüfung mit vollständigem Zugang zu dem Code und den Daten ab, mit denen Sozialleistungsempfänger für Betrugsprüfungen markiert werden. Amnestys Diskriminierungsbedenken beruhten auf einem teilweisen Zugang zu vier Modellen; die Behörde widersprach ihnen.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Finanzen, Risiko und RechtProduktion und Qualität
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Gemeinsame Entwicklung mit Partnern
- Nachweis
- Unabhängige Studie
Quellen
Quellenzusammenfassungen
Amnesty untersuchte Dänemarks Einsatz von bis zu 60 Modellen zur Betrugskontrolle, darunter „Really Single“ und „Model Abroad“. UDK wies den Vorwurf des Social Scoring zurück und lehnte eine gemeinsame Prüfung ab.
Ausführliche Angaben finden Sie in den Originalquellen.
