Thụy ĐiểnKhu vực công2013 – đang tiếp diễnFörsäkringskassan (Cơ quan Bảo hiểm Xã hội Thụy Điển)
Chấm điểm rủi ro bằng học máy để kiểm soát gian lận trợ cấp
Cuộc điều tra cho thấy hệ thống chấm điểm gian lận trợ cấp của Thụy Điển đánh dấu phụ nữ và người có nguồn gốc nước ngoài thường xuyên hơn (11/2024)
Vấn đề
Försäkringskassan dùng một hệ thống học máy từ ít nhất năm 2013 để chấm điểm người xin trợ cấp. Những người điểm cao nhất được chuyển cho bộ phận kiểm soát gian lận để điều tra.
Cách tiếp cận
Lighthouse Reports và Svenska Dagbladet kiểm tra hệ thống theo 6 thước đo công bằng và thấy hệ thống đánh dấu phụ nữ, người có nguồn gốc nước ngoài, người thu nhập thấp và người không có bằng đại học với tỷ lệ cao một cách không cân xứng. Cơ quan này từng từ chối các yêu cầu tiếp cận thông tin và lập luận rằng một phân tích giám sát năm 2018 dựa trên cơ sở đáng ngờ; Ân xá Quốc tế đề nghị dừng hệ thống.
Số liệu chính
Chưa có số liệu công bố
Bài học
Các nhà báo phát hiện hệ thống chọn một số nhóm để điều tra gian lận với tỷ lệ cao một cách không cân xứng, khiến Ân xá Quốc tế kêu gọi dừng hệ thống theo nghĩa vụ đánh giá rủi ro đối với quyền con người trước khi triển khai trong Đạo luật AI của EU. Cơ quan này phản bác một phân tích giám sát năm 2018.
Phân loại
- Quy mô
- Doanh nghiệp lớn
- Ngành
- Khu vực công
- Chức năng kinh doanh
- Tài chính, rủi ro và pháp chếSản xuất và chất lượng
- Loại hình đổi mới
- Đổi mới quy trình
- Công nghệ AI
- Phân tích dự báo và học máy
- Hình thức triển khai
- Tự phát triển
- Căn cứ
- Báo chí đưa tin
Nguồn
Tóm tắt nguồn
Ân xá Quốc tế nêu các phát hiện của Lighthouse Reports và Svenska Dagbladet về hệ thống chấm điểm rủi ro của cơ quan này. Bài chỉ ra các nhóm bị đánh dấu thường xuyên hơn và cho biết cơ quan đã từ chối các yêu cầu cung cấp thông tin.
Thông tin đầy đủ có trong tài liệu gốc.
