Cơ quan Thuế và Hải quan Hà Lan

Vấn đề

Cơ quan thuế Hà Lan chi trả trợ cấp chăm sóc trẻ em cho phụ huynh đang đi làm và muốn phát hiện sớm các hồ sơ sai sót hoặc gian lận. Việc kiểm tra thủ công từng hồ sơ là không khả thi.

Cách tiếp cận

Từ năm 2013, cơ quan này dùng một mô hình phân loại rủi ro bằng thuật toán để chấm điểm các hồ sơ xin trợ cấp chăm sóc trẻ em và đánh dấu những hồ sơ cần kiểm tra. Theo Tổ chức Ân xá Quốc tế, không mang quốc tịch Hà Lan là một trong các yếu tố rủi ro, nên người nộp đơn không phải người Hà Lan bị chấm điểm cao hơn, và hệ thống tự điều chỉnh theo thời gian trong khi sự giám sát thực chất của con người rất hạn chế. Hàng chục nghìn phụ huynh và người chăm sóc, phần lớn có thu nhập thấp, bị coi oan là người gian lận và bị buộc hoàn trả trợ cấp. Vụ bê bối khiến nội các Hà Lan từ chức vào tháng 1/2021.

Số liệu chính

Bài học

Tác hại đến từ việc kết hợp điểm rủi ro có dùng yếu tố quốc tịch với cách thực thi coi một dấu hiệu cảnh báo là bằng chứng. Vì mô hình xác định đối tượng cần kiểm tra còn nhân viên làm theo, thiên lệch lan rộng qua các quyết định trong nhiều năm trước khi bị phát hiện.

Phân loại

Quy mô

Doanh nghiệp lớn

Ngành

Khu vực công

Chức năng kinh doanh

Tài chính, rủi ro và pháp chế

Loại hình đổi mới

Đổi mới quy trình

Công nghệ AI

Phân tích dự báo và học máy

Hình thức triển khai

Tự phát triển

Mục tiêu

Chất lượng và rủi roTiết kiệm chi phí

Căn cứ

Nghiên cứu độc lập

Nguồn

1. Dutch childcare benefit scandal an urgent wake-up call to ban racist algorithms

   Amnesty International·25 thg 10, 2021Bài nghiên cứu hoặc báo cáo
2. Xenophobic machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal

   Amnesty International·25 thg 10, 2021Bài nghiên cứu hoặc báo cáo

Tóm tắt nguồn

Thông tin đầy đủ có trong tài liệu gốc.