Trường hợp tương tự
AI Field Notes
← Trường hợp
Hà LanKhu vực công2019–2023

City of Amsterdam

Mô hình rủi ro Smart Check cho hồ sơ xin trợ cấp xã hội

Amsterdam dừng mô hình rủi ro gian lận trợ cấp năm 2023 sau thử nghiệm khoảng 1.600 hồ sơ cho thấy mô hình gắn cờ nhiều người hơn và xuất hiện thiên lệch mới

Thất bại hoặc dừngBáo chí đưa tin

Vấn đề

Cán bộ phụ trách trợ cấp kiểm tra hồ sơ để tìm sai sót và gian lận, và theo số liệu của thành phố, hơn 1/2 số cuộc điều tra không phát hiện sai phạm. Thành phố muốn có cách chọn hồ sơ công bằng và chính xác hơn.

Cách tiếp cận

Công việc bắt đầu từ năm 2019. Mô hình được huấn luyện trên 3.400 cuộc điều tra trước đây, dùng 15 đặc điểm và loại trừ giới tính, quốc tịch và tuổi. Việc điều chỉnh trọng số dữ liệu huấn luyện giúp cân bằng tỷ lệ sai sót giữa người nộp đơn là người Hà Lan và người nộp đơn không phải người Hà Lan trong thử nghiệm. Đợt thử nghiệm thực tế bắt đầu năm 2023, và thành phố dừng dự án vào tháng 11/2023 vì không thể loại trừ nguy cơ phân biệt đối xử ngoài ý muốn.

Số liệu chính

~1,600hồ sơ trợ cấp được đưa qua mô hình trong đợt thử nghiệm thực tế, theo bài điều tra của MIT Technology ReviewBáo chí đưa tin[1]
~€500,000ước tính chi phí nội bộ của chính thành phố, cộng hợp đồng 35.000 € với DeloitteCông bố của doanh nghiệp[1]
20% better than caseworkers (internal test)mức cải thiện độ chính xác mà nhóm của thành phố ghi nhận trong thử nghiệm nội bộ trước đợt chạy thử; trong đợt chạy thử, mô hình không tốt hơn cán bộ xử lý hồ sơ, theo các phóng viênCông bố của doanh nghiệp[1]
€2.4 million per year (expected)khoản tiết kiệm hằng năm dự kiến mà thành phố nêu trước đợt chạy thử; không đạt đượcCông bố của doanh nghiệp[1]

Bài học

MIT Technology Review đưa tin thiên lệch tái xuất hiện trong đợt thử nghiệm thực tế. Thành phố cho biết mô hình có ít kết quả dương tính giả hơn phương pháp cũ nhưng đánh giá phân tích thiên lệch là chưa có kết luận; việc phát triển chấm dứt vào tháng 11/2023.

Phân loại

Loại hình đổi mới
Đổi mới quy trình
Hình thức triển khai
Tự phát triển
Căn cứ
Báo chí đưa tin

Nguồn

  1. Inside Amsterdam's high-stakes experiment to create fair welfare AI
    MIT Technology Review11 thg 6, 2025Bài báo
  2. Slimme Check Onderzoeksproject (Smart Check research project)
    City of Amsterdam, Open Research24 thg 6, 2024Tài liệu của cơ quan nhà nước

Tóm tắt nguồn

[1]MIT Technology Review11 thg 6, 2025

MIT Technology Review, Lighthouse Reports và Trouw điều tra mô hình này dựa trên hồ sơ của thành phố và các thử nghiệm thiên lệch của chính họ. Họ phát hiện thiên lệch trong thử nghiệm năm 2022 và thiên lệch tái xuất hiện sau khi giảm thiểu trong đợt chạy thử khoảng 1.600 hồ sơ, trong đó mô hình gắn cờ nhiều người nộp đơn hơn. Thành phố ước tính chi phí nội bộ khoảng 500.000 €, cộng hợp đồng 35.000 € với Deloitte, và đã kỳ vọng tiết kiệm 2,4 triệu € mỗi năm.

[2]City of Amsterdam, Open Research24 thg 6, 2024

Thành phố cho biết đợt chạy thử diễn ra từ tháng 4 đến tháng 8/2023 sau khoảng 3 năm phát triển. Đánh giá cuối cùng cho thấy ít kết quả dương tính giả hơn phương pháp cũ, nhưng phân tích thiên lệch chưa có kết luận. Hội đồng Tham gia khuyến nghị dừng từ năm 2022, và ủy viên phụ trách quyết định dừng vào tháng 11/2023 với sự đồng thuận của hội đồng.

Thông tin đầy đủ có trong tài liệu gốc.

Ngày đăng 25 thg 10, 2026 · Ngày cập nhật 25 thg 10, 2026
Mở trang trường hợp ↗