瑞典公共部门2013 – 进行中瑞典社会保险局（Försäkringskassan）
用于福利欺诈管控的机器学习风险评分
调查发现，瑞典福利欺诈评分系统更常标记女性和外国背景人群（2024年11月）
问题
Försäkringskassan至少自2013年起就使用机器学习系统为福利申请人打分，得分最高者被送交欺诈管控部门调查。
方法
Lighthouse Reports和Svenska Dagbladet依据6项公平性指标对该系统进行测试，发现其标记女性、外国背景人群、低收入者和没有大学学历者的比例过高。该机构曾拒绝信息公开申请，并辩称2018年的一项监督分析依据存疑；国际特赦组织要求停用该系统。
主要数据
暂无公开数据
启示
记者发现，该系统挑选若干群体接受欺诈调查的比例过高，促使国际特赦组织呼吁停用该系统，其依据是欧盟《人工智能法》规定的部署前评估权利风险的义务。该机构对2018年的一项监督分析提出异议。
分类
来源
来源摘要
[1]Amnesty International2024年11月27日
国际特赦组织转述了Lighthouse Reports和Svenska Dagbladet关于该机构风险评分的调查结果。报道指出了被更频繁标记的群体，并称该机构拒绝了信息申请。
详细内容请参阅原始来源。
收录日期 2026年10月25日 · 更新日期 2026年10月25日
