DinamarcaSector público2024 – en cursoUdbetaling Danmark (UDK) y ATP
Modelos algorítmicos de control del fraude en prestaciones sociales
Amnistía afirma que el organismo danés de prestaciones utiliza hasta 60 modelos de detección del fraude con riesgo de discriminación (noviembre de 2024)
Problema
UDK y el organismo de pensiones ATP utilizan hasta 60 modelos algorítmicos para señalar a personas que deben ser investigadas por fraude. Amnistía obtuvo acceso parcial a cuatro de ellos.
Enfoque
Amnistía afirma que los modelos, desarrollados con la empresa NNIT, combinan datos de millones de residentes y pueden discriminar a personas con discapacidad, de bajos ingresos y migrantes. UDK rechazó la interpretación de Amnistía de que el sistema equivale a una puntuación social y declinó una auditoría conjunta con acceso completo al código y los datos.
Cifras clave
Conclusión
UDK declinó una auditoría conjunta con acceso completo al código y a los datos utilizados para señalar a beneficiarios de prestaciones para su investigación por fraude. Las preocupaciones de Amnistía sobre discriminación se basaban en el acceso parcial a cuatro modelos, y el organismo las cuestionó.
Categorías
- Tamaño
- Gran empresa
- Sector
- Sector público
- Función empresarial
- Finanzas, riesgos y asuntos jurídicosProducción y calidad
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- Análisis predictivo y aprendizaje automático
- Adopción
- Desarrollo conjunto con socios
- Respaldo
- Estudio independiente
Fuentes
Resúmenes de fuentes
Amnistía investigó el uso en Dinamarca de hasta 60 modelos de control del fraude, incluidos «Really Single» y «Model Abroad». UDK rechazó la acusación de puntuación social y declinó una auditoría conjunta.
La información completa figura en las fuentes originales.
