DanemarkSecteur public2024 – en coursUdbetaling Danmark (UDK) et ATP
Modèles algorithmiques de contrôle de la fraude aux prestations sociales
Selon Amnesty, l’organisme danois de prestations sociales utilise jusqu’à 60 modèles de détection de la fraude présentant un risque de discrimination (novembre 2024)
Problématique
UDK et l’organisme de retraite ATP utilisent jusqu’à 60 modèles algorithmiques pour désigner les personnes à soumettre à une enquête pour fraude. Amnesty a obtenu un accès partiel à quatre d’entre eux.
Approche
Selon Amnesty, les modèles développés avec l’entreprise NNIT regroupent des données sur des millions de résidents et peuvent discriminer les personnes handicapées, à faibles revenus ou migrantes. UDK a rejeté l’analyse d’Amnesty selon laquelle le système relève de la notation sociale et refusé un audit conjoint avec un accès complet au code et aux données.
Chiffres clés
Enseignement
UDK a refusé un audit conjoint avec un accès complet au code et aux données utilisés pour désigner les allocataires à soumettre à une enquête pour fraude. Les préoccupations d’Amnesty en matière de discrimination reposaient sur un accès partiel à quatre modèles et étaient contestées par l’organisme.
Catégories
- Taille
- Grande entreprise
- Secteur
- Secteur public
- Fonction de l’entreprise
- Finance, risques et juridiqueProduction et qualité
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- Analyse prédictive et apprentissage automatique
- Mode d’adoption
- Codéveloppement avec un partenaire
- Type de preuve
- Étude indépendante
Sources
Résumés des sources
Amnesty a enquêté sur l’utilisation au Danemark de jusqu’à 60 modèles de contrôle de la fraude, dont « Really Single » et « Model Abroad ». UDK a rejeté l’accusation de notation sociale et refusé un audit conjoint.
Les informations complètes figurent dans les sources d’origine.
