ÍndiaSetor público2016 – em andamentoGoverno do Estado de Telangana
Algoritmo Samagra Vedika para verificar elegibilidade a benefícios sociais
Investigação da Al Jazeera aponta que algoritmo de benefícios sociais de Telangana negou cartões de alimentação indevidamente em pelo menos 7,5% dos casos que conseguiu verificar
Problema
O Estado queria excluir beneficiários inelegíveis e cadastros duplicados dos programas de alimentação e de outros benefícios sociais. Os servidores trabalhavam com dados espalhados por dezenas de bases de diferentes órgãos.
Abordagem
A Posidex Technologies desenvolveu o Samagra Vedika, que usa aprendizado de máquina para cruzar registros de pessoas em mais de 30 bases de dados do governo e criar um perfil único para cada uma. O sistema começou em 2016 como ferramenta policial, foi testado no programa de segurança alimentar naquele ano e, em 2018, abrangia a maioria dos programas sociais do Estado. Os servidores precisam consultá-lo antes de aprovar solicitações e, na prática, costumam seguir sua indicação.
Números principais
Lição
Os servidores costumavam seguir o algoritmo, e uma revisão determinada pela Justiça identificou negativas indevidas, embora o Estado afirmasse que os erros de classificação eram inferiores a 5%. A revisão abrangeu apenas parte dos cartões cancelados, e o Estado se recusou a divulgar o código-fonte.
Categorias
- Porte
- Grande empresa
- Setor
- Setor público
- Função empresarial
- Finanças, riscos e jurídico
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e ML
- Forma de adoção
- Solução de fornecedor
- Evidência
- Apuração jornalística
Fontes
Resumos das fontes
A Al Jazeera investigou o sistema desenvolvido pela Posidex e informou que mais de 1,86 milhão de cartões de alimentação foram cancelados e 142.086 solicitações foram rejeitadas entre 2014 e 2019. Com dados de uma reverificação determinada pela Suprema Corte, os repórteres estimaram que pelo menos 7,5% dos cartões rejeitados haviam sido negados indevidamente. Autoridades defenderam o sistema, afirmaram que os erros eram inferiores a 5% e recusaram os pedidos de acesso ao código-fonte.
O Oxford Human Rights Hub descreveu o sistema como uma ferramenta de resolução de entidades que utiliza mais de 30 bases de dados e relatou os 1,86 milhão de cancelamentos e as 142.086 rejeições. Afirma que nem o fornecedor nem o Estado publicaram o código-fonte ou dados de acurácia e que, na prática, os servidores seguem o resultado do sistema. Também citou uma investigação de 2024 da Anistia Internacional que levantou preocupações sobre direitos humanos.
Os detalhes completos estão disponíveis nas fontes originais.
