Försäkringskassan (Caisse suédoise d’assurance sociale)

Problématique

Försäkringskassan utilise un système d’apprentissage automatique depuis 2013 au moins pour noter les demandeurs de prestations. Ceux qui obtiennent les scores les plus élevés sont adressés à l’unité de lutte contre la fraude pour enquête.

Approche

Lighthouse Reports et Svenska Dagbladet ont testé le système selon 6 indicateurs d’équité et constaté qu’il signalait de manière disproportionnée les femmes, les personnes d’origine étrangère, les bas revenus et les personnes sans diplôme universitaire. L’agence avait refusé des demandes d’accès à l’information et soutenu qu’une analyse de contrôle de 2018 reposait sur des fondements douteux ; Amnesty a demandé l’arrêt du système.

Chiffres clés

Aucun chiffre publié

Enseignement

Des journalistes ont constaté que le système sélectionnait de manière disproportionnée plusieurs groupes pour des enquêtes de fraude, ce qui a conduit Amnesty à demander son arrêt au titre de l’obligation, prévue par le règlement européen sur l’IA, d’évaluer les risques pour les droits avant le déploiement. L’agence a contesté une analyse de contrôle de 2018.

Catégories

Taille

Grande entreprise

Secteur

Secteur public

Fonction de l’entreprise

Finance, risques et juridiqueProduction et qualité

Type d’innovation

Innovation de procédé

Technologie d’IA

Analyse prédictive et apprentissage automatique

Mode d’adoption

Développement interne

Objectif

Qualité et risquesRéduction des coûts

Type de preuve

Travail journalistique

Sources

1. Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency

   Amnesty International·27 nov. 2024Étude ou rapport de recherche

Résumés des sources

Les informations complètes figurent dans les sources d’origine.