Försäkringskassan (schwedische Sozialversicherungsanstalt)

Ausgangslage

Försäkringskassan setzt mindestens seit 2013 ein System des maschinellen Lernens ein, um Leistungsantragsteller zu bewerten. Antragsteller mit den höchsten Werten gehen zur Untersuchung an die Abteilung für Betrugskontrolle.

Vorgehen

Lighthouse Reports und Svenska Dagbladet prüften das System anhand von 6 Fairnesskennzahlen und stellten fest, dass es Frauen, Menschen mit ausländischem Hintergrund, Geringverdiener und Menschen ohne Hochschulabschluss überproportional markierte. Die Behörde hatte Anfragen nach dem Informationsfreiheitsrecht abgelehnt und argumentiert, eine Aufsichtsanalyse von 2018 beruhe auf fragwürdigen Grundlagen; Amnesty forderte, das System zu stoppen.

Kennzahlen

Keine veröffentlichten Zahlen

Erkenntnis

Journalisten stellten fest, dass das System mehrere Gruppen überproportional für Betrugsuntersuchungen auswählte, worauf Amnesty unter Verweis auf die Pflicht des EU-KI-Gesetzes, Risiken für Grundrechte vor dem Einsatz zu prüfen, ein Ende des Systems forderte. Die Behörde widersprach einer Aufsichtsanalyse von 2018.

Kategorien

Größe

Großunternehmen

Branche

Öffentlicher Sektor

Unternehmensfunktion

Finanzen, Risiko und RechtProduktion und Qualität

Innovationsart

Prozessinnovation

KI-Technologie

Prädiktive Analytik und ML

Einführung

Eigenentwicklung

Ziel

Qualität und RisikoKostensenkung

Nachweis

Presseberichterstattung

Quellen

1. Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency

   Amnesty International·27. Nov. 2024Forschungsarbeit oder Bericht

Quellenzusammenfassungen

Ausführliche Angaben finden Sie in den Originalquellen.