DinamarcaSetor público2024 – em andamentoUdbetaling Danmark (UDK) e ATP
Modelos algorítmicos para controle de fraudes em benefícios sociais
Anistia afirma que órgão dinamarquês de benefícios opera até 60 modelos de detecção de fraude com risco de discriminação (novembro de 2024)
Problema
A UDK e a entidade previdenciária ATP usam até 60 modelos algorítmicos para selecionar pessoas para investigação de fraude. A Anistia obteve acesso parcial a quatro deles.
Abordagem
A Anistia afirma que os modelos, desenvolvidos com a empresa NNIT, reúnem dados de milhões de residentes e podem discriminar pessoas com deficiência, de baixa renda e migrantes. A UDK rejeitou a avaliação da Anistia de que o sistema constitui uma forma de pontuação social e recusou uma auditoria conjunta com acesso integral ao código e aos dados.
Números principais
Lição
A UDK recusou uma auditoria conjunta com acesso integral ao código e aos dados usados para selecionar beneficiários para investigação de fraude. As preocupações da Anistia sobre discriminação se baseavam no acesso parcial a quatro modelos e foram contestadas pelo órgão.
Categorias
- Porte
- Grande empresa
- Setor
- Setor público
- Função empresarial
- Finanças, riscos e jurídicoProdução e qualidade
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e ML
- Forma de adoção
- Codesenvolvimento com parceiros
- Evidência
- Estudo independente
Fontes
Resumos das fontes
A Anistia investigou o uso de até 60 modelos de controle de fraudes na Dinamarca, entre eles “Really Single” e “Model Abroad”. A UDK rejeitou a acusação de pontuação social e recusou uma auditoria conjunta.
Os detalhes completos estão disponíveis nas fontes originais.
