IndeSecteur public2016 – en coursGouvernement de l’État du Telangana (Telangana state government)
Samagra Vedika, un algorithme d’éligibilité aux prestations sociales
Selon une enquête d’Al Jazeera, l’algorithme d’aide sociale du Telangana a refusé à tort des cartes d’aide alimentaire dans au moins 7,5 % des cas qu’elle a pu vérifier
Problématique
L’État souhaitait exclure des dispositifs d’aide alimentaire et d’autres prestations sociales les bénéficiaires non éligibles et les doublons. Les données dont disposaient les fonctionnaires étaient réparties entre des dizaines de bases relevant de différents services.
Approche
Posidex Technologies a développé Samagra Vedika, qui utilise l’apprentissage automatique pour rapprocher les données relatives à une même personne dans plus de 30 bases publiques et lui constituer un profil unique. D’abord utilisé par la police en 2016, l’outil a été testé la même année dans le dispositif de sécurité alimentaire et couvrait la plupart des programmes sociaux de l’État en 2018. Les fonctionnaires doivent le consulter avant d’approuver les demandes et, dans les faits, suivent généralement ses conclusions.
Chiffres clés
Enseignement
Les fonctionnaires suivaient généralement l’algorithme, et un réexamen ordonné par la justice a constaté des refus injustifiés alors que l’État revendiquait un taux d’erreur de classification inférieur à 5 %. Ce réexamen ne portait que sur une partie des cartes annulées et l’État a refusé de communiquer le code source.
Catégories
- Taille
- Grande entreprise
- Secteur
- Secteur public
- Fonction de l’entreprise
- Finance, risques et juridique
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- Analyse prédictive et apprentissage automatique
- Mode d’adoption
- Solution d’un fournisseur
- Type de preuve
- Travail journalistique
Sources
Résumés des sources
Al Jazeera a enquêté sur le système développé par Posidex et rapporté que plus de 1,86 million de cartes d’aide alimentaire avaient été annulées et 142 086 demandes rejetées entre 2014 et 2019. À partir des données d’une nouvelle vérification ordonnée par la Cour suprême, les journalistes ont estimé qu’au moins 7,5 % des cartes refusées l’avaient été à tort. Les responsables ont défendu le système, affirmé que les erreurs étaient inférieures à 5 % et refusé les demandes d’accès au code source.
Oxford Human Rights Hub a décrit le système comme un outil de rapprochement d’identités exploitant plus de 30 bases de données et rapporté les 1,86 million d’annulations et les 142 086 rejets. Il indique que ni le fournisseur ni l’État n’ont publié le code source ou les données de précision, et que les fonctionnaires suivent en pratique les résultats de l’outil. Il a également cité une enquête d’Amnesty International de 2024 soulevant des préoccupations en matière de droits humains.
Les informations complètes figurent dans les sources d’origine.
