दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

मशीन लर्निंग मॉडल में निष्पक्षता-सटीकता के बीच के अंतर को समझना: क्या निष्पक्षता को बढ़ावा देने से प्रदर्शन कमजोर होता है?

Created by
  • Haebom

लेखक

जुनहुआ लियू, रॉय का-वेई ली, क्वान हुई लिम

रूपरेखा

यह शोधपत्र 870 कॉलेज प्रवेश आवेदकों के डेटा का उपयोग करके मशीन लर्निंग (एमएल) मॉडल और मानव मूल्यांकनकर्ताओं के बीच निष्पक्षता की तुलना और विश्लेषण करता है। तीन एमएल मॉडल: XGB, Bi-LSTM, और KNN, और BERT एम्बेडिंग का उपयोग करके पूर्वानुमान लगाए गए थे। मानव मूल्यांकनकर्ता विविध पृष्ठभूमि के विशेषज्ञों से बने थे। व्यक्तिगत निष्पक्षता का आकलन करने के लिए, हमने एक संगति मीट्रिक प्रस्तुत किया जो एमएल मॉडल और मानव मूल्यांकनकर्ताओं के निर्णयों के बीच सहमति को मापता है। विश्लेषण के परिणामों से पता चला कि निष्पक्षता की संगति में एमएल मॉडल ने मानव मूल्यांकनकर्ताओं की तुलना में 14.08% से 18.79% बेहतर प्रदर्शन किया। यह उच्च सटीकता बनाए रखते हुए प्रवेश प्रक्रिया में निष्पक्षता में सुधार के लिए एमएल का लाभ उठाने की क्षमता को दर्शाता है, और हम एक संकर दृष्टिकोण का प्रस्ताव करते हैं जो मानवीय निर्णय और एमएल मॉडल को जोड़ता है।

Takeaways, Limitations

Takeaways:
हम दर्शाते हैं कि मशीन लर्निंग मॉडल प्रवेश प्रक्रिया में मानव मूल्यांकनकर्ताओं की तुलना में अधिक निष्पक्ष निर्णय ले सकते हैं।
मानवीय निर्णय और मशीन लर्निंग मॉडल को संयोजित करने वाला एक संकर दृष्टिकोण प्रवेश प्रक्रिया की निष्पक्षता में सुधार कर सकता है।
हम एमएल मॉडलों की निष्पक्षता में सुधार के लिए एक नया मूल्यांकन मीट्रिक (संगतता मीट्रिक) प्रस्तुत करते हैं।
Limitations:
उपयोग किया गया डेटासेट किसी विशिष्ट विश्वविद्यालय में प्रवेश के लिए आवेदकों के डेटा तक सीमित है, जिससे सामान्यीकरण सीमित हो सकता है।
यह संभव है कि हमने सभी प्रकार के पूर्वाग्रहों (एल्गोरिदमिक, डेटा-चालित, संज्ञानात्मक, व्यक्तिपरक, आदि) पर व्यापक रूप से विचार नहीं किया।
स्थिरता मेट्रिक्स के अतिरिक्त, अन्य निष्पक्षता मूल्यांकन मेट्रिक्स पर भी विचार किया जाना आवश्यक है।
उपयोग किए जाने वाले एमएल मॉडल के प्रकार सीमित हैं, और विभिन्न मॉडलों का उपयोग करने पर परिणाम भिन्न हो सकते हैं।
👍