オランダ公共部門2013–2021オランダ税務・関税庁
保育料補助のリスク分類モデル
国籍を用いたオランダの不正リスク判定アルゴリズムが、数万人の親への誤った不正告発の一因となり、内閣総辞職を招いた
課題
オランダの税務当局は、働く親に保育料補助を支給しており、不正確または不正な申請を早期に見つけたいと考えていた。全申請を手作業で確認することは不可能だった。
取り組み
当局は2013年から、アルゴリズムによるリスク分類モデルで保育料補助の申請を採点し、確認対象を選別していた。アムネスティ・インターナショナルによると、オランダ国籍を持たないことがリスク要因の1つで、外国籍の申請者のスコアが高くなった。システムは時間とともに自ら適応し、人間による実質的な監督はほとんどなかった。低所得層を中心とする数万人の親や養育者が不正受給者として誤って扱われ、補助金の返還を命じられた。この問題を受けて、オランダ内閣は2021年1月に総辞職した。
主な数値
示唆
被害は、国籍を使ったリスクスコアと、フラグを証拠として扱う取り締まりが組み合わさって生じた。モデルが対象を定め、職員がそれに従ったため、偏りは発覚するまで何年にもわたる判断に広がった。
分類
出典
出典の要約
アムネスティの調査によると、オランダの税務当局が2013年に導入し、保育料補助の不正確な申請や不正申請にフラグを立てるアルゴリズムのシステムは、オランダ国籍をリスク要因に用い、外国籍者に高いスコアを付けていた。システムには自己学習の要素があり、人間による実質的な監督はなかったという。低所得層を中心とする数万人の親や養育者が不正の濡れ衣を着せられ、この問題が1月に政権を崩壊させたとしている。リスクスコアリングで国籍や民族を使うことの禁止を求めている。
アムネスティは、税務当局が不正確な申請や不正の疑いのある申請を早期に見つけるため、アルゴリズムによる意思決定システムで保育料補助の申請者のリスクプロファイルを作成していたと説明した。国籍をリスク要因に使ったことが差別と人種的プロファイリングにつながったと結論付け、オランダを社会保障の取り締まり自動化の先行例と位置付けた。
詳細は原典でご確認いただけます。
