Försäkringskassan (Agencia sueca de Seguros Sociales)

Problema

Försäkringskassan utiliza al menos desde 2013 un sistema de aprendizaje automático para puntuar a los solicitantes de prestaciones. Los que obtienen las puntuaciones más altas se envían a la unidad de control del fraude para su investigación.

Enfoque

Lighthouse Reports y Svenska Dagbladet sometieron el sistema a 6 métricas de equidad y comprobaron que señalaba de forma desproporcionada a mujeres, personas de origen extranjero, personas con ingresos bajos y personas sin título universitario. La agencia había rechazado solicitudes de acceso a la información y sostuvo que un análisis de supervisión de 2018 se basaba en fundamentos dudosos; Amnistía Internacional pidió que se detuviera el sistema.

Cifras clave

Sin cifras publicadas

Conclusión

Los periodistas comprobaron que el sistema seleccionaba de forma desproporcionada a varios grupos para investigarlos por fraude, lo que llevó a Amnistía Internacional a pedir su suspensión en virtud de la obligación que impone la Ley de IA de la UE de evaluar los riesgos para los derechos antes de su despliegue. La agencia cuestionó un análisis de supervisión de 2018.

Categorías

Tamaño

Gran empresa

Sector

Sector público

Función empresarial

Finanzas, riesgos y asuntos jurídicosProducción y calidad

Tipo de innovación

Innovación de procesos

Tecnología de IA

Análisis predictivo y aprendizaje automático

Adopción

Desarrollo propio

Objetivo

Calidad y riesgoReducción de costes

Respaldo

Información de prensa

Fuentes

1. Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency

   Amnesty International·27 nov 2024Artículo o informe de investigación

Resúmenes de fuentes

La información completa figura en las fuentes originales.