Pays-BasSecteur public2019–2023

Ville d’Amsterdam

Modèle de risque Smart Check pour les demandes d’aide sociale

Amsterdam a abandonné en 2023 son modèle de risque de fraude aux prestations sociales : un test sur environ 1 600 dossiers signalait davantage de personnes et révélait un nouveau biais

Échec ou arrêtTravail journalistique

Problématique

Les agents chargés des prestations contrôlaient les dossiers pour y déceler erreurs et fraudes, et plus de la moitié des enquêtes ne révélaient aucune irrégularité, selon les chiffres de la ville. La ville voulait un moyen plus juste et plus précis de sélectionner les dossiers.

Approche

Les travaux ont débuté en 2019. Le modèle a été entraîné sur 3 400 enquêtes passées, utilisait 15 caractéristiques et excluait le sexe, la nationalité et l’âge. Une repondération des données d’entraînement a égalisé en test les taux d’erreur entre demandeurs néerlandais et non néerlandais. Un projet pilote a démarré en 2023, et la ville l’a abandonné en novembre 2023, faute de pouvoir exclure une discrimination indésirable.

Chiffres clés

~1,600dossiers d’aide sociale passés dans le modèle lors du pilote en conditions réelles, selon l’enquête de MIT Technology ReviewTravail journalistique[1]

~€500,000estimation par la ville de ses coûts internes, en plus d’un contrat de 35 000 € avec DeloitteDéclaration de l’entreprise[1]

20% better than caseworkers (internal test)gain de précision observé par l’équipe de la ville lors de tests internes avant le pilote ; lors du pilote, le modèle n’était pas meilleur que les agents, selon les journalistesDéclaration de l’entreprise[1]

€2.4 million per year (expected)économies annuelles projetées que la ville citait avant le pilote ; non atteintesDéclaration de l’entreprise[1]

Enseignement

MIT Technology Review a fait état d’un nouveau biais dans le projet pilote en conditions réelles. La ville a indiqué avoir obtenu moins de faux positifs qu’avec l’ancienne méthode, mais jugé son analyse des biais non concluante ; le développement a pris fin en novembre 2023.

Sources

Inside Amsterdam's high-stakes experiment to create fair welfare AI
MIT Technology Review11 juin 2025Article de presse
Slimme Check Onderzoeksproject (Smart Check research project)
City of Amsterdam, Open Research24 juin 2024Publication gouvernementale

Résumés des sources

[1]MIT Technology Review11 juin 2025

MIT Technology Review, Lighthouse Reports et Trouw ont enquêté sur le modèle à partir de documents de la ville et de leurs propres tests de biais. Ils ont relevé un biais lors des tests de 2022, puis un nouveau biais après correction lors d’un pilote portant sur environ 1 600 dossiers, qui signalait davantage de demandeurs. La ville a estimé ses coûts internes à environ 500 000 €, auxquels s’ajoute un contrat de 35 000 € avec Deloitte, et attendait des économies annuelles de 2,4 millions d’euros.

[2]City of Amsterdam, Open Research24 juin 2024

La ville indique que le pilote s’est déroulé d’avril à août 2023, après environ 3 ans de développement. L’évaluation finale a relevé moins de faux positifs qu’avec l’ancienne méthode, mais l’analyse des biais n’était pas concluante. Le Conseil de la participation avait recommandé l’arrêt en 2022, et l’échevin a décidé de l’arrêter en novembre 2023 avec l’accord du conseil.

Les informations complètes figurent dans les sources d’origine.

Ajouté le 25 oct. 2026 · Mis à jour le 25 oct. 2026