SuéciaSetor público2013 – em andamentoFörsäkringskassan (Agência Sueca de Seguro Social)
Pontuações de risco por aprendizado de máquina no controle de fraudes em benefícios
Investigação conclui que a pontuação de fraude em benefícios da Suécia sinaliza com mais frequência mulheres e pessoas de origem estrangeira (nov. 2024)
Problema
A Försäkringskassan usa um sistema de aprendizado de máquina desde pelo menos 2013 para pontuar os solicitantes de benefícios. Os de pontuação mais alta são enviados à unidade de controle de fraudes para investigação.
Abordagem
A Lighthouse Reports e o Svenska Dagbladet testaram o sistema com 6 métricas de equidade e constataram que ele sinalizava de forma desproporcional mulheres, pessoas de origem estrangeira, pessoas de baixa renda e pessoas sem diploma universitário. A agência havia recusado pedidos de acesso à informação e argumentou que uma análise de supervisão de 2018 se baseava em fundamentos duvidosos; a Anistia pediu que o sistema fosse interrompido.
Números principais
Sem números divulgados
Lição
Os jornalistas constataram que o sistema selecionava de forma desproporcional vários grupos para investigação de fraude, o que levou a Anistia a pedir sua interrupção com base no dever, previsto na Lei de IA da UE, de avaliar riscos a direitos antes da implantação. A agência contestou uma análise de supervisão de 2018.
Categorias
- Porte
- Grande empresa
- Setor
- Setor público
- Função empresarial
- Finanças, riscos e jurídicoProdução e qualidade
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e ML
- Forma de adoção
- Desenvolvimento interno
- Evidência
- Apuração jornalística
Fontes
Resumos das fontes
A Anistia relata as conclusões da Lighthouse Reports e do Svenska Dagbladet sobre a pontuação de risco da agência. Identifica os grupos sinalizados com mais frequência e diz que a agência recusou pedidos de informação.
Os detalhes completos estão disponíveis nas fontes originais.
