iTutorGroup
Sàng lọc tự động hồ sơ ứng viên gia sư
Phần mềm tuyển dụng của iTutorGroup loại gia sư lớn tuổi theo ngày sinh và kết thúc bằng thỏa thuận 365.000 USD với EEOC
Vấn đề
iTutorGroup, doanh nghiệp dạy tiếng Anh trực tuyến phục vụ học viên tại Trung Quốc, tuyển số lượng lớn gia sư tại Mỹ để dạy từ xa. Ứng viên nộp hồ sơ qua phần mềm tuyển dụng trực tuyến có yêu cầu khai ngày sinh.
Cách tiếp cận
Theo Ủy ban Cơ hội Việc làm Bình đẳng Hoa Kỳ (EEOC), công ty đã cài đặt phần mềm tuyển gia sư để tự động loại nữ ứng viên từ 55 tuổi trở lên và nam ứng viên từ 60 tuổi trở lên, dựa trên ngày sinh trong hồ sơ. EEOC cho biết hơn 200 ứng viên đủ điều kiện tại Mỹ đã bị từ chối theo cách này trong năm 2020 và khởi kiện năm 2022 theo Đạo luật Chống phân biệt đối xử về tuổi trong lao động (Age Discrimination in Employment Act). Tháng 8/2023, công ty đồng ý với một quyết định tư pháp theo thỏa thuận, được EEOC công bố vào tháng 9, theo đó trả 365.000 USD cho các ứng viên bị từ chối và bị cấm hỏi ngày sinh. Khi đó iTutorGroup đã ngừng tuyển gia sư tại Mỹ.
Số liệu chính
Bài học
Một mốc tuổi đơn giản được nhập vào phần mềm, không dùng mô hình học máy, đã dẫn đến vụ được xem là thỏa thuận đầu tiên của EEOC về thiên lệch tuyển dụng liên quan đến AI. Việc áp dụng quy tắc phân biệt đối xử đó cho mọi ứng viên gây ra hơn 200 lần từ chối và một vụ kiện liên bang.
Phân loại
- Ngành
- Giáo dục
- Chức năng kinh doanh
- Nhân sự
- Loại hình đổi mới
- Đổi mới quy trình
- Công nghệ AI
- Robot và tự động hóa
- Hình thức triển khai
- Tự phát triển
- Căn cứ
- Cơ quan quản lý, kiểm toán hoặc tòa án
Nguồn
Tóm tắt nguồn
EEOC công bố thỏa thuận với iTutorGroup và 2 công ty liên kết, trong đó có Shanghai Ping An Intelligent Education Technology, các đơn vị cung cấp dịch vụ dạy tiếng Anh cho học viên tại Trung Quốc. EEOC cáo buộc phần mềm tuyển dụng tự động loại nữ ứng viên từ 55 tuổi trở lên và nam ứng viên từ 60 tuổi trở lên, khiến hơn 200 ứng viên đủ điều kiện tại Mỹ bị từ chối. Thỏa thuận yêu cầu khoản chi trả 365.000 USD, đào tạo, chính sách chống phân biệt đối xử mới, cấm yêu cầu cung cấp ngày sinh và giám sát ít nhất 5 năm.
Duane Morris mô tả quyết định tư pháp theo thỏa thuận được nộp ngày 9/8/2023 là thỏa thuận đầu tiên của EEOC liên quan đến thiên lệch của phần mềm AI. Người nộp đơn khiếu nại, một phụ nữ trên 55 tuổi, bị từ chối ngay sau khi nhập ngày sinh. Khoản 365.000 USD được chi cho các ứng viên bị từ chối vào tháng 3 và tháng 4/2020, chia giữa tiền bồi thường thiệt hại và tiền lương truy lĩnh.
Thông tin đầy đủ có trong tài liệu gốc.