米国小売・EC2014–2017Amazon
機械学習による履歴書選考ツール
Amazon、女性を不利に評価するようになった実験的な履歴書評価AIを廃止
課題
Amazonは非常に速いペースで採用を進めており、手作業での選考を減らしながら、大量の履歴書から有力な候補者を見つけることを目指した。技術者らは、履歴書100通を入力すると、採用すべき上位5人を返すシステムを目標として挙げた。
取り組み
2014年から、Amazonのエディンバラのエンジニアリング拠点にいた約12人のチームが、応募者を1～5つ星で採点するモデルを構築した。モデルは、10年間にAmazonに提出された履歴書のパターンから学習した。その大半は男性のものだった。2015年までに同社は、このシステムが「women's」という語を含む履歴書や、女子大2校の卒業生の評価を下げることを見つけた。
主な数値
示唆
モデルは過去の採用データにあった男女の偏りを再現した。Amazonは、これらの語に対して中立になるよう修正したが、他の差別的なパターンが生じないとは断言できず、2017年初めまでにチームを解散した。ロイターの情報源によると、採用担当者はそのランキングを参照したが、それだけに頼ることはなかった。Amazonはこのツールについてコメントを控えた。
分類
出典
出典の要約
ロイターは、このプロジェクトに詳しい5人の話として、エディンバラのチームが2014年から、大半が男性のものだった10年分の履歴書を使って応募者を1～5つ星で評価するツールを構築したと報じた。2015年までに、システムは「women's」という語と女子大2校の卒業生を不利に扱っていた。修正を加えても、他の方法で差別しないことは保証できなかった。チームは2017年初めまでに解散し、Amazonはこのツールについてコメントを控えた。
BBCニュースは、このツールが大半が男性のものだった10年分の学習データを使い、候補者を1～5つ星の尺度で評価していたと報じた。採用担当者はツールの推奨を見ていたが、それだけに頼ることはなかったと伝えられている。Amazonはこの主張に答えていない。Amazonの世界の従業員は男性60%、女性40%の割合だったとも伝えている。
詳細は原典でご確認いただけます。
