MỹBán lẻ và thương mại điện tử2014–2017Amazon
Công cụ sàng lọc hồ sơ ứng viên bằng học máy
Amazon ngừng một AI thử nghiệm chấm điểm hồ sơ sau khi công cụ này học cách chấm thấp nữ giới
Vấn đề
Amazon tuyển dụng với tốc độ rất nhanh và muốn tìm ứng viên giỏi trong số lượng lớn hồ sơ mà ít phải sàng lọc thủ công hơn. Các kỹ sư mô tả mục tiêu là một hệ thống nhận vào 100 hồ sơ và trả về 5 ứng viên hàng đầu để tuyển.
Cách tiếp cận
Từ năm 2014, một nhóm khoảng 12 người tại trung tâm kỹ thuật của Amazon ở Edinburgh xây dựng các mô hình chấm điểm ứng viên từ 1 đến 5 sao. Các mô hình học từ những mẫu hình trong hồ sơ gửi đến Amazon trong giai đoạn 10 năm, phần lớn của nam giới. Đến năm 2015, công ty phát hiện hệ thống hạ điểm các hồ sơ có từ "women's" và những sinh viên tốt nghiệp từ 2 trường đại học nữ sinh.
Số liệu chính
Bài học
Mô hình tái tạo sự mất cân bằng giới trong dữ liệu tuyển dụng quá khứ; Amazon chỉnh để mô hình trung lập với các thuật ngữ đó nhưng không thể loại trừ các mẫu hình phân biệt đối xử khác, và đã giải tán nhóm vào đầu năm 2017. Các nguồn tin của Reuters cho biết nhà tuyển dụng có tham khảo xếp hạng của công cụ nhưng không chỉ dựa vào đó; Amazon từ chối bình luận về công cụ này.
Phân loại
- Quy mô
- Doanh nghiệp lớn
- Chức năng kinh doanh
- Nhân sự
- Loại hình đổi mới
- Đổi mới quy trình
- Công nghệ AI
- Phân tích dự báo và học máy
- Hình thức triển khai
- Tự phát triển
- Mục tiêu
- Năng suất và tốc độ
- Căn cứ
- Báo chí đưa tin
Nguồn
Tóm tắt nguồn
Reuters dẫn lời 5 người am hiểu dự án, cho biết một nhóm ở Edinburgh bắt đầu xây dựng công cụ từ năm 2014 để chấm điểm ứng viên từ 1 đến 5 sao dựa trên hồ sơ trong 10 năm, phần lớn của nam giới. Đến năm 2015, hệ thống hạ điểm từ "women's" và sinh viên tốt nghiệp từ 2 trường đại học nữ sinh; các chỉnh sửa không bảo đảm được rằng hệ thống không tìm ra cách phân biệt đối xử khác. Nhóm bị giải tán chậm nhất vào đầu năm 2017, và Amazon từ chối bình luận về công cụ.
BBC News đưa tin công cụ dùng dữ liệu huấn luyện trong 10 năm, phần lớn của nam giới, để chấm điểm ứng viên theo thang từ 1 đến 5 sao. Bài báo lưu ý nhà tuyển dụng được cho là có xem các khuyến nghị của công cụ nhưng không bao giờ chỉ dựa vào đó, và Amazon chưa phản hồi các cáo buộc. Bài báo bổ sung rằng lực lượng lao động toàn cầu của Amazon chia theo tỷ lệ 60:40 nghiêng về nam giới.
Thông tin đầy đủ có trong tài liệu gốc.
