Países BajosSector público2013–2021Administración Tributaria y Aduanera de los Países Bajos
Modelo de clasificación de riesgo para las ayudas al cuidado infantil
Un algoritmo neerlandés de riesgo de fraude que usaba la nacionalidad contribuyó a que decenas de miles de padres fueran acusados injustamente y provocó la caída del Gobierno
Problema
La autoridad tributaria neerlandesa abona ayudas para el cuidado infantil a padres que trabajan y quería detectar a tiempo las solicitudes incorrectas o fraudulentas. Revisar a mano todas las solicitudes no era posible.
Enfoque
Desde 2013, la autoridad empleó un modelo algorítmico de clasificación de riesgo para puntuar las solicitudes de ayudas al cuidado infantil y señalar las que debían revisarse. Según Amnistía Internacional, no tener la nacionalidad neerlandesa era uno de los factores de riesgo, de modo que los solicitantes extranjeros recibían puntuaciones más altas, y el sistema se adaptaba con el tiempo con escasa supervisión humana efectiva. Decenas de miles de padres y cuidadores, en su mayoría de bajos ingresos, fueron tratados erróneamente como defraudadores y obligados a devolver las ayudas. El escándalo llevó a la dimisión del Gobierno neerlandés en enero de 2021.
Cifras clave
Conclusión
El daño se debió a la combinación de una puntuación de riesgo que utilizaba la nacionalidad con una actuación sancionadora que trataba una alerta como si fuera una prueba. Como el modelo determinaba a quién investigar y el personal seguía sus indicaciones, el sesgo se extendió durante años de decisiones antes de ser detectado.
Categorías
- Tamaño
- Gran empresa
- Sector
- Sector público
- Función empresarial
- Finanzas, riesgos y asuntos jurídicos
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- Análisis predictivo y aprendizaje automático
- Adopción
- Desarrollo propio
- Respaldo
- Estudio independiente
Fuentes
Resúmenes de fuentes
Expone las conclusiones de Amnistía Internacional: un sistema algorítmico introducido en 2013 por la autoridad tributaria neerlandesa para señalar solicitudes de ayudas al cuidado infantil incorrectas o fraudulentas utilizaba la nacionalidad neerlandesa como factor de riesgo y asignaba puntuaciones más altas a los extranjeros. Indica que el sistema tenía un componente de autoaprendizaje sin supervisión humana efectiva. Afirma que decenas de miles de padres y cuidadores, en su mayoría de bajos ingresos, fueron acusados falsamente de fraude y que el escándalo provocó la caída del Gobierno en enero. Pide que se prohíba el uso de la nacionalidad y la etnia en la puntuación de riesgos.
Amnistía Internacional describió cómo las autoridades tributarias utilizaron un sistema algorítmico de toma de decisiones para elaborar perfiles de riesgo de los solicitantes de ayudas al cuidado infantil con el fin de detectar a tiempo solicitudes inexactas y posiblemente fraudulentas. Concluyó que el uso de la nacionalidad como factor de riesgo condujo a discriminación y a elaboración de perfiles raciales, y describió a los Países Bajos como un país pionero en la automatización del control de la seguridad social.
La información completa figura en las fuentes originales.
