類似事例
AI経営事例集
← 事例
オランダ公共部門2019–2023

アムステルダム市

生活保護申請のリスクモデルSmart Check

アムステルダム市、約1,600件の申請を対象とした試験で、より多くの人を抽出し新たな偏りも判明、2023年に生活保護の不正リスクモデルを中止

失敗・中止報道

課題

生活保護の担当職員は申請の誤りや不正を調べていたが、市の数字によると、調査の半数超で不正は見つからなかった。市は、より公平で正確な調査対象の選び方を求めていた。

取り組み

取り組みは2019年に始まった。モデルは過去の調査3,400件で学習し、15の特徴量を用い、性別、国籍、年齢は除いた。学習データの重み付けを調整した結果、テストではオランダ人と非オランダ人の申請者の誤り率がそろった。試験は2023年に始まり、市は望まない差別を排除できないとして、2023年11月に断念した。

主な数値

~1,600実運用の試験でモデルにかけた生活保護申請の件数（MIT Technology Reviewの報道による）報道[1]
~€500,000市自身が見積もった内部コスト。ほかにDeloitteとの契約が35,000ユーロ企業自身の発表[1]
20% better than caseworkers (internal test)試験前の内部テストで市のチームが確認した精度の改善幅。記者によると、試験ではモデルはケースワーカーを上回らなかった企業自身の発表[1]
€2.4 million per year (expected)市が試験前に示した年間の削減見込み額（未達成）企業自身の発表[1]

示唆

MIT Technology Reviewは、実運用の試験で偏りが再び現れたと報じた。市は従来の方法より誤検知が少なかったとしたが、偏りの分析は結論が出なかったとし、2023年11月に開発を終えた。

分類

規模
大企業
イノベーションの類型
プロセス・イノベーション
導入形態
自社開発
根拠
報道

出典

  1. Inside Amsterdam's high-stakes experiment to create fair welfare AI
    MIT Technology Review2025年6月11日報道記事
  2. Slimme Check Onderzoeksproject (Smart Check research project)
    City of Amsterdam, Open Research2024年6月24日政府刊行物

出典の要約

[1]MIT Technology Review2025年6月11日

MIT Technology Review、Lighthouse Reports、Trouwは、市の記録と独自の偏りテストを使ってこのモデルを調べた。2022年のテストで偏りが見つかり、約1,600件の申請を対象にした試験では、対策後に再び偏りが現れ、より多くの申請者が抽出された。市は内部コストを約50万ユーロと見積もり、ほかにDeloitteとの35,000ユーロの契約があった。年間の削減額は240万ユーロを見込んでいた。

[2]City of Amsterdam, Open Research2024年6月24日

市によると、試験は約3年の開発を経て、2023年4月から8月まで実施された。最終評価では従来の方法より誤検知が少なかったが、偏りの分析は結論が出なかった。参加評議会は2022年に中止を勧告し、担当参事は評議会の同意を得て2023年11月に中止を決めた。

詳細は原典でご確認いただけます。

掲載日 2026年10月25日 · 更新日 2026年10月25日
事例ページを開く ↗