यह शोधपत्र जनरेटिव एआई का उपयोग करके रिज्यूमे स्क्रीनिंग में पूर्वाग्रह के मुद्दे पर विचार करता है। हालाँकि एआई-आधारित रिज्यूमे स्क्रीनिंग प्रणालियों का उपयोग इस धारणा के तहत तेज़ी से किया जा रहा है कि वे पक्षपातपूर्ण मानवीय निर्णयों की जगह ले सकती हैं, हम इन प्रणालियों की मूल्यांकन क्षमताओं पर ही सवाल उठाते हैं। हमने आठ प्रमुख एआई प्लेटफ़ॉर्म पर दो प्रयोग किए और पाया कि कुछ मॉडल जटिल, प्रासंगिक नस्लीय और लैंगिक पूर्वाग्रह प्रदर्शित करते हैं जो केवल जनसांख्यिकीय संकेतों के आधार पर आवेदकों को नुकसान पहुँचाते हैं। हमने यह भी पाया कि कुछ मॉडल जो निष्पक्ष प्रतीत होते हैं, वे ठोस मूल्यांकन करने में विफल रहते हैं और इसके बजाय सतही कीवर्ड मिलान पर निर्भर करते हैं, जिसे हम "तटस्थता का भ्रम" कहते हैं। इसलिए, हम एआई भर्ती उपकरणों की निष्पक्षता और प्रभावशीलता सुनिश्चित करने के लिए जनसांख्यिकीय पूर्वाग्रह और ठोस क्षमता के लिए एक दोहरी जाँच ढाँचे को अपनाने की सलाह देते हैं।
