Pays-BasSecteur public2017–2021Ville de Rotterdam
Attribution de scores de risque aux bénéficiaires d’aides sociales par apprentissage automatique
Rotterdam a suspendu son modèle de détection de la fraude sociale en 2021 après avoir constaté des biais qu’elle ne parvenait pas à éliminer
Problématique
Rotterdam souhaitait sélectionner chaque année les personnes à soumettre à une enquête pour fraude parmi ses quelque 30 000 bénéficiaires d’aides sociales.
Approche
Depuis 2017, la ville utilisait un modèle d’apprentissage automatique qui attribuait à chaque bénéficiaire un score de 0 à 1 à partir de 315 variables. Environ 1 000 personnes par an étaient orientées vers une enquête. Lighthouse Reports a analysé le modèle en 2023 et constaté des biais défavorables à certains groupes.
Chiffres clés
Enseignement
Selon Lighthouse Reports, les propres évaluations de la ville concluaient que le modèle n’était qu’environ 50 % plus précis qu’une sélection aléatoire. La ville l’a suspendu à la mi-2021 après que des évaluations ont révélé des biais qu’elle ne parvenait pas à éliminer.
Catégories
- Taille
- Grande entreprise
- Secteur
- Secteur public
- Fonction de l’entreprise
- Finance, risques et juridiqueProduction et qualité
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- Analyse prédictive et apprentissage automatique
- Mode d’adoption
- Développement interne
- Type de preuve
- Déclaration de l’entreprise
Sources
Résumés des sources
Lighthouse Reports décrit comment il a obtenu et testé le modèle de scores de risque de Rotterdam, notamment ses données d’entrée et ses seuils de score. Il rapporte les conclusions internes de la ville sur sa précision et sa suspension en 2021.
Les informations complètes figurent dans les sources d’origine.
