スウェーデン社会保険庁（Försäkringskassan）

課題

Försäkringskassanは少なくとも2013年から、給付の申請者を採点する機械学習システムを使っている。スコアが最も高い申請者は、不正対策部門に回されて調査を受ける。

取り組み

Lighthouse ReportsとSvenska Dagbladetが6つの公平性指標でこのシステムを検証したところ、女性、外国にルーツを持つ人、低所得者、大学の学位を持たない人が不均衡に多く抽出されていた。同庁は情報公開請求を拒み、2018年の監督上の分析は根拠が乏しいと主張した。アムネスティは、システムの停止を求めた。

主な数値

公表された数値なし

示唆

報道機関の調査で、システムが複数の集団を不均衡に不正調査の対象として選んでいたことが分かり、アムネスティは、導入前に権利へのリスクを評価することを定めたEUのAI法に基づき、停止を求めた。同庁は2018年の監督上の分析に異議を唱えた。

分類

規模

大企業

業種

公共部門

業務機能

財務・リスク・法務生産・品質

イノベーションの類型

プロセス・イノベーション

AI技術

予測分析・機械学習

導入形態

自社開発

目的

品質・リスクコスト削減

根拠

報道

出典

1. Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency

   Amnesty International·2024年11月27日研究論文・報告書

出典の要約

詳細は原典でご確認いただけます。