Países BajosSector público2017–2021Ayuntamiento de Róterdam (City of Rotterdam)
Puntuación del riesgo de los beneficiarios de prestaciones sociales mediante aprendizaje automático
Róterdam suspendió en 2021 su modelo de detección del fraude en prestaciones sociales tras encontrar sesgos que no pudo eliminar
Problema
Róterdam quería seleccionar a cuáles de sus aproximadamente 30.000 beneficiarios de prestaciones sociales investigaría por fraude cada año.
Enfoque
Desde 2017, el ayuntamiento utilizaba un modelo de aprendizaje automático que asignaba a cada beneficiario una puntuación de 0 a 1 a partir de 315 variables. Alrededor de 1.000 personas al año eran derivadas a investigación. Lighthouse Reports analizó el modelo en 2023 y detectó sesgos en contra de determinados grupos.
Cifras clave
Conclusión
Según Lighthouse, las evaluaciones del propio ayuntamiento determinaron que el modelo solo era alrededor de un 50% más preciso que la selección aleatoria. El ayuntamiento lo suspendió a mediados de 2021 después de que las evaluaciones detectaran sesgos que no pudo eliminar.
Categorías
- Tamaño
- Gran empresa
- Sector
- Sector público
- Función empresarial
- Finanzas, riesgos y asuntos jurídicosProducción y calidad
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- Análisis predictivo y aprendizaje automático
- Adopción
- Desarrollo propio
- Respaldo
- Declaración de la propia empresa
Fuentes
Resúmenes de fuentes
Lighthouse Reports describe cómo obtuvo y puso a prueba el modelo de puntuación del riesgo de Róterdam, incluidas sus variables de entrada y sus umbrales de puntuación. Informa del resultado de la evaluación interna de precisión del ayuntamiento y de la suspensión en 2021.
La información completa figura en las fuentes originales.
