दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एलएलएम में खोजपूर्ण सोच को बढ़ावा देकर लैंगिक पूर्वाग्रह को कम करना

Created by
  • Haebom

लेखक

कांगडा वेई, हसनत एमडी अब्दुल्ला, रुईहोंग हुआंग

रूपरेखा

यह शोधपत्र एक नवीन डेटा निर्माण ढाँचे का प्रस्ताव करता है जो बड़े पैमाने के भाषा मॉडल (एलएलएम) में लैंगिक पूर्वाग्रह की समस्या के समाधान हेतु खोजपूर्ण चिंतन को बढ़ावा देता है। यह विधि संरचनात्मक रूप से समान, नैतिक रूप से अस्पष्ट, पुरुष और महिला पात्रों वाले परिदृश्यों के युग्म उत्पन्न करती है, उनके नैतिक निर्णयों की तुलना करती है, और विसंगतियाँ उत्पन्न होने पर मॉडल को संतुलित, लैंगिक-तटस्थ निर्णय उत्पन्न करने के लिए निर्देशित करती है। इन कहानी-निर्णय युग्मों का उपयोग प्रत्यक्ष वरीयता अनुकूलन (डीपीओ) का उपयोग करके मॉडल को परिष्कृत या अनुकूलित करने के लिए किया जाता है। प्रायोगिक परिणाम दर्शाते हैं कि प्रस्तावित विधि सामान्य मॉडल प्रदर्शन को बनाए रखते हुए या उसमें सुधार करते हुए लैंगिक पूर्वाग्रह को उल्लेखनीय रूप से कम करती है। कोड और उत्पन्न डेटा सार्वजनिक रूप से उपलब्ध हैं।

Takeaways, Limitations

Takeaways:
एलएलएम में लैंगिक पूर्वाग्रह को दूर करने का एक नया दृष्टिकोण
अन्वेषणात्मक सोच का उपयोग करते हुए डेटा उत्पादन और मॉडल प्रशिक्षण रणनीति प्रस्तुत करना।
लिंग पूर्वाग्रह को कम करने और मॉडल प्रदर्शन में सुधार के लिए डीपीओ का लाभ उठाना
उत्पन्न डेटा और कोड के प्रकटीकरण के माध्यम से अनुसंधान की पुनरुत्पादनशीलता और विस्तारशीलता सुनिश्चित करना।
Limitations:
प्रस्तावित विधि की सामान्यता निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
विविध लिंगों और सांस्कृतिक पृष्ठभूमियों में पूर्वाग्रह को कम करने की प्रभावशीलता को सत्यापित करने की आवश्यकता है।
अन्य प्रकार के पूर्वाग्रहों (जाति, धर्म, आदि) पर इस अध्ययन की प्रयोज्यता पर आगे शोध की आवश्यकता है।
डीपीओ को अपनी कम्प्यूटेशनल लागत और दक्षता में सुधार करने की आवश्यकता है।
👍