Países BajosSector público2019–2023

Ayuntamiento de Ámsterdam

Modelo de riesgo Smart Check para solicitudes de ayudas sociales

Ámsterdam abandonó en 2023 su modelo de riesgo de fraude en ayudas sociales tras un piloto con unas 1.600 solicitudes en el que se señaló a más personas y se detectó un nuevo sesgo

Fallido o detenidoInformación de prensa

Problema

Los funcionarios de ayudas sociales revisaban las solicitudes en busca de errores y fraude, y más de la mitad de las investigaciones no hallaban irregularidades, según cifras municipales. El ayuntamiento quería un modo más justo y preciso de seleccionar los casos.

Enfoque

Los trabajos comenzaron en 2019. El modelo se entrenó con 3.400 investigaciones anteriores, utilizó 15 características y excluyó el género, la nacionalidad y la edad. La reponderación de los datos de entrenamiento igualó, en las pruebas, las tasas de error entre solicitantes neerlandeses y no neerlandeses. Un piloto comenzó en 2023 y el ayuntamiento lo abandonó en noviembre de 2023 porque no podía descartar una discriminación no deseada.

Cifras clave

~1,600solicitudes de ayudas sociales procesadas por el modelo en el piloto en condiciones reales, según el reportaje de MIT Technology ReviewInformación de prensa[1]

~€500,000estimación propia del ayuntamiento de los costes internos, más un contrato de 35.000 euros con DeloitteDeclaración de la propia empresa[1]

20% better than caseworkers (internal test)mejora de precisión que observó el equipo municipal en las pruebas internas previas al piloto; en el piloto el modelo no superó al personal encargado de evaluar los casos, según los periodistasDeclaración de la propia empresa[1]

€2.4 million per year (expected)ahorro anual proyectado que el ayuntamiento citó antes del piloto; no se logróDeclaración de la propia empresa[1]

Conclusión

MIT Technology Review informó de la reaparición del sesgo en el piloto en condiciones reales. El ayuntamiento comunicó menos falsos positivos que con el método anterior, pero calificó de no concluyente su análisis del sesgo; el desarrollo terminó en noviembre de 2023.

Fuentes

Inside Amsterdam's high-stakes experiment to create fair welfare AI
MIT Technology Review11 jun 2025Artículo de prensa
Slimme Check Onderzoeksproject (Smart Check research project)
City of Amsterdam, Open Research24 jun 2024Publicación gubernamental

Resúmenes de fuentes

[1]MIT Technology Review11 jun 2025

MIT Technology Review, Lighthouse Reports y Trouw investigaron el modelo a partir de registros municipales y de sus propias pruebas de sesgo. Hallaron sesgo en las pruebas de 2022 y su reaparición tras las medidas de mitigación en un piloto de unas 1.600 solicitudes, en el que se señaló a más solicitantes. El ayuntamiento estimó unos costes internos de unos 500.000 euros, además de un contrato de 35.000 euros con Deloitte, y había previsto un ahorro anual de 2,4 millones de euros.

[2]City of Amsterdam, Open Research24 jun 2024

El ayuntamiento indicó que el piloto se desarrolló de abril a agosto de 2023, tras unos 3 años de desarrollo. La evaluación final halló menos falsos positivos que con el método anterior, pero el análisis del sesgo no fue concluyente. El Consejo de Participación recomendó detenerlo en 2022 y el concejal decidió interrumpirlo en noviembre de 2023 con el acuerdo del consejo.

La información completa figura en las fuentes originales.

Añadido 25 oct 2026 · Actualizado 25 oct 2026