미국유통·이커머스2014–2017아마존
머신러닝 이력서 평가 도구
과거 채용 데이터를 학습한 아마존의 이력서 평가 AI가 여성 지원자를 감점해 폐기됐다
문제
아마존은 채용 규모가 급격히 커지면서 쏟아지는 이력서 가운데 우수 인재를 사람 손을 덜 들이고 찾고 싶어 했다. 개발자들은 이력서 100장을 넣으면 채용할 상위 5명을 골라 주는 시스템을 목표로 삼았다고 전했다.
접근 방식
2014년부터 아마존 에든버러 엔지니어링 거점의 10여 명 규모 팀이 지원자를 별 1~5개로 평가하는 모델을 만들었다. 모델은 지난 10년간 아마존에 접수된 이력서의 패턴을 학습했는데, 그 대부분이 남성 지원자의 것이었다. 회사는 2015년 무렵 시스템이 'women's(여성의)'라는 단어가 든 이력서와 여자대학 두 곳 출신 지원자를 낮게 평가한다는 사실을 알게 됐다.
주요 수치
시사점
모델이 과거 채용 데이터의 성별 불균형을 재현하자 아마존은 해당 단어에 중립적이도록 고쳤지만 다른 차별적 패턴을 배제할 수 없어 2017년 초까지 팀을 해체했다. 로이터 취재원들에 따르면 채용 담당자는 도구의 순위만으로 결정하지는 않았으며, 아마존은 도구에 대한 논평을 거부했다.
분류
출처
출처 요약
로이터는 프로젝트를 아는 5명을 인용해, 에든버러 팀이 2014년부터 주로 남성이 낸 10년치 이력서로 지원자를 별 1~5개로 평가하는 도구를 만들었다고 보도했다. 2015년 무렵 시스템은 'women's'라는 단어와 여자대학 두 곳 출신을 감점했고, 수정만으로는 다른 방식의 차별을 막을 수 있다고 보장할 수 없었다. 팀은 2017년 초까지 해체됐으며 아마존은 논평을 거부했다.
BBC 뉴스는 이 도구가 주로 남성 지원자로 이뤄진 10년치 학습 데이터로 지원자를 별 1~5개로 평가했다고 보도했다. 채용 담당자들이 도구의 추천을 참고했지만 그것에만 의존하지는 않았다는 보도와, 아마존이 의혹에 답하지 않았다는 점을 전한다. 아마존 전 세계 인력의 남녀 비율이 60 대 40이라는 점도 덧붙였다.
자세한 내용은 원문에 있습니다.
