Bài báo này đề cập đến vấn đề thiên vị trong quá trình sàng lọc hồ sơ ứng tuyển bằng AI tạo sinh. Mặc dù các hệ thống sàng lọc hồ sơ ứng tuyển dựa trên AI ngày càng được sử dụng với giả định rằng chúng có thể thay thế đánh giá thiên vị của con người, chúng tôi đặt câu hỏi về chính khả năng đánh giá của các hệ thống này. Chúng tôi tiến hành hai thí nghiệm trên tám nền tảng AI chính và nhận thấy một số mô hình thể hiện những thiên vị phức tạp, mang tính ngữ cảnh về chủng tộc và giới tính, gây bất lợi cho ứng viên chỉ dựa trên các tín hiệu nhân khẩu học. Chúng tôi cũng nhận thấy một số mô hình dường như không thiên vị nhưng lại không đưa ra những đánh giá thực chất mà thay vào đó dựa vào việc so sánh từ khóa hời hợt, mà chúng tôi gọi là "Ảo tưởng về tính trung lập". Do đó, chúng tôi khuyến nghị áp dụng một khuôn khổ kiểm tra kép về thiên vị nhân khẩu học và khả năng thực chất để đảm bảo tính công bằng và hiệu quả của các công cụ tuyển dụng AI.
