Försäkringskassan（瑞典社會保險署）

問題

Försäkringskassan至少自2013年起使用機器學習系統為福利申請人評分。得分最高者會被送交詐欺管控單位調查。

做法

Lighthouse Reports與Svenska Dagbladet以6項公平性指標檢驗該系統，發現它不成比例地標記女性、外國背景人士、低收入者及沒有大學學歷者。該機構曾拒絕資訊公開請求，並主張2018年一項監督分析的依據不可靠；國際特赦組織要求停用該系統。

主要數據

無公開數據

啟示

記者發現，該系統在詐欺調查中不成比例地選出數個族群，促使國際特赦組織依歐盟《人工智慧法》要求於部署前評估權利風險的義務，呼籲停用。該機構對2018年的一項監督分析提出異議。

分類

規模

大型企業

產業

公部門

業務職能

財務、風險與法務生產與品質

創新類型

流程創新

AI技術

預測分析與機器學習

導入方式

自行開發

目標

品質與風險降低成本

依據

媒體報導

來源

1. Sweden: Authorities must discontinue discriminatory AI systems used by welfare agency

   Amnesty International·2024年11月27日研究論文或報告

來源摘要

詳細內容請參閱原始資料。