दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

कोई विचार नहीं, केवल एआई: पक्षपातपूर्ण एलएलएम नियुक्ति अनुशंसाएँ मानव निर्णय लेने की प्रक्रिया को बदल देती हैं और मानव स्वायत्तता को सीमित कर देती हैं

Created by
  • Haebom

लेखक

कायरा विल्सन, मैटिया सिम, अन्ना-मारिया गुएरगुएवा, आयलिन कैलिस्कन

रूपरेखा

इस अध्ययन ने 528 प्रतिभागियों के साथ एक प्रयोग के माध्यम से मानव भर्ती निर्णयों पर कृत्रिम बुद्धिमत्ता (एआई) मॉडल में नस्लीय पूर्वाग्रह के प्रभाव का विश्लेषण किया। 16 उच्च और निम्न-स्थिति वाली नौकरियों में 1,526 परिदृश्यों में, आवेदकों का मूल्यांकन एआई मॉडल के आधार पर किया गया था जो नस्ल (श्वेत, अश्वेत, हिस्पैनिक और एशियाई) के आधार पर अलग-अलग पक्षपाती थे। परिणामों से पता चला कि जब एआई ने किसी विशेष नस्ल का पक्ष लिया, तो लोग 90% तक उस नस्ल का पक्ष लेते थे। यहां तक ​​​​कि जब लोगों ने एआई की सिफारिशों को कम गुणवत्ता वाला या महत्वहीन माना, तब भी वे कुछ स्थितियों में एआई के पूर्वाग्रहों से प्रभावित थे। एक इंप्लिसिट एसोसिएशन टेस्ट (IAT) को पहले से प्रशासित करने से उन आवेदकों को चुनने की संभावना 13% बढ़ गई, जो सामान्य नस्ल-स्थिति रूढ़ियों से मेल नहीं खाते थे।

Takeaways, Limitations

Takeaways:
इससे पता चलता है कि एआई में नस्लीय पूर्वाग्रह मानव निर्णय लेने को महत्वपूर्ण रूप से प्रभावित कर सकता है।
एआई-एचआईटीएल (ह्यूमन-इन-द-लूप) परिदृश्यों में मानव स्वायत्तता के बारे में चिंताएं उठाना।
Takeaways एआई भर्ती प्रणालियों और पूर्वाग्रह शमन रणनीतियों के डिजाइन और मूल्यांकन पर जानकारी प्रदान करता है।
संगठनात्मक और विनियामक नीतियों की आवश्यकता पर बल दिया गया है जो AI-HITL निर्णय लेने की जटिलता को ध्यान में रखते हैं।
आईएटी जैसे उपकरणों का उपयोग करके पूर्वाग्रह को कम करने की संभावना का सुझाव देना।
Limitations:
प्रायोगिक वातावरण के कृत्रिम पहलू वास्तविक दुनिया की स्थितियों से भिन्नता पैदा कर सकते हैं।
चूंकि एआई पूर्वाग्रह प्रकार और तीव्रता में भिन्न हो सकते हैं, इसलिए इस अध्ययन के परिणामों की सामान्यता निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
प्रतिभागियों की विशेषताओं (जैसे, आयु, लिंग, व्यवसाय) के आधार पर परिणामों में अंतर के विश्लेषण का अभाव।
👍