네덜란드공공2013–2021네덜란드 국세청
보육수당 부정수급 위험 분류 모델
국적을 위험 요인으로 쓴 네덜란드 부정수급 알고리즘이 수만 명의 부모를 잘못 몰아세웠고 내각 총사퇴로 이어졌다
문제
네덜란드 국세청은 맞벌이 부모에게 보육수당을 지급하며, 잘못되거나 부정한 신청을 일찍 걸러내고자 했다. 모든 신청을 사람이 확인하기는 불가능했다.
접근 방식
국세청은 2013년부터 알고리즘 기반 위험 분류 모델로 보육수당 신청에 점수를 매기고 조사 대상을 골랐다. 국제앰네스티에 따르면 네덜란드 국적이 없는 것 자체가 위험 요인 중 하나여서 외국 국적자는 더 높은 점수를 받았고, 시스템은 의미 있는 사람의 감독 없이 스스로 조정됐다. 저소득층을 중심으로 수만 명의 부모와 보호자가 부정수급자로 잘못 지목돼 수당 환수 명령을 받았다. 이 사건으로 네덜란드 내각은 2021년 1월 총사퇴했다.
주요 수치
시사점
피해는 국적을 반영한 위험 점수와, 그 점수를 부정의 증거처럼 다룬 집행 방식이 결합하면서 생겼다. 모델이 조사 대상을 정하고 직원이 이를 그대로 따랐기 때문에, 편향이 드러나기 전까지 수년간의 결정에 퍼졌다.
분류
출처
출처 요약
네덜란드 국세청이 2013년 보육수당의 오류·부정 신청을 가려내려고 도입한 알고리즘이 네덜란드 국적 여부를 위험 요인으로 써서 외국 국적자에게 더 높은 점수를 줬다는 국제앰네스티의 조사 결과를 소개했다. 시스템에는 의미 있는 사람의 감독 없이 스스로 학습하는 요소가 있었다고 지적했다. 주로 저소득층인 부모와 보호자 수만 명이 부정수급자로 잘못 지목됐고, 이 사건으로 1월 정부가 무너졌다고 전했다. 위험 점수 산정에 국적과 민족 정보를 쓰지 말라고 촉구했다.
국제앰네스티는 국세청이 부정확하거나 부정 소지가 있는 신청을 조기에 잡기 위해 알고리즘 기반 의사결정 시스템으로 보육수당 신청자의 위험 프로필을 만든 과정을 설명했다. 국적을 위험 요인으로 쓴 것이 차별과 인종 프로파일링으로 이어졌다고 결론지었다. 네덜란드를 사회보장 집행 자동화에 앞장선 나라로 소개했다.
자세한 내용은 원문에 있습니다.
