Hà LanKhu vực công2017–2021Chính quyền thành phố Rotterdam (City of Rotterdam)
Chấm điểm rủi ro người nhận trợ cấp bằng máy học
Rotterdam tạm dừng mô hình phát hiện gian lận trợ cấp năm 2021 sau khi nhận thấy thiên lệch không thể loại bỏ
Vấn đề
Rotterdam muốn xác định những người cần điều tra gian lận mỗi năm trong số khoảng 30.000 người nhận trợ cấp của thành phố.
Cách tiếp cận
Từ năm 2017, thành phố sử dụng mô hình máy học với 315 biến để chấm điểm từng người nhận trợ cấp trên thang từ 0 đến 1. Khoảng 1.000 người mỗi năm được chuyển sang diện điều tra. Lighthouse Reports phân tích mô hình vào năm 2023 và phát hiện mô hình thiên lệch, gây bất lợi cho một số nhóm.
Số liệu chính
Bài học
Theo Lighthouse, các đánh giá nội bộ của thành phố cho thấy mô hình chỉ chính xác hơn khoảng 50% so với lựa chọn ngẫu nhiên. Thành phố đình chỉ sử dụng vào giữa năm 2021 sau khi các đánh giá phát hiện thiên lệch không thể loại bỏ.
Phân loại
- Quy mô
- Doanh nghiệp lớn
- Ngành
- Khu vực công
- Chức năng kinh doanh
- Tài chính, rủi ro và pháp chếSản xuất và chất lượng
- Loại hình đổi mới
- Đổi mới quy trình
- Công nghệ AI
- Phân tích dự báo và học máy
- Hình thức triển khai
- Tự phát triển
- Căn cứ
- Công bố của doanh nghiệp
Nguồn
Tóm tắt nguồn
Lighthouse Reports mô tả cách tổ chức này thu thập và kiểm thử mô hình chấm điểm rủi ro của Rotterdam, bao gồm dữ liệu đầu vào và các ngưỡng điểm. Tổ chức công bố kết quả đánh giá độ chính xác nội bộ của thành phố và việc đình chỉ mô hình năm 2021.
Thông tin đầy đủ có trong tài liệu gốc.
