दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

निष्पक्षता की ओर बढ़ना: एलएलएम में राजनीतिक पूर्वाग्रह को कम करना

Created by
  • Haebom

लेखक

अफ़रोज़ा नदीम, मार्क द्रास, उस्मान नसीम

रूपरेखा

यह शोधपत्र बड़े पैमाने के भाषा मॉडल (एलएलएम) द्वारा राजनीतिक और आर्थिक वैचारिक पूर्वाग्रहों को कूटबद्ध और पुनरुत्पादित करने की प्रवृत्ति से जुड़ी चिंताओं पर विचार करता है। हम डिकोडर-आधारित एलएलएम में इन पूर्वाग्रहों की जाँच और शमन के लिए एक ढाँचा प्रस्तुत करते हैं, जिसमें मिस्ट्रल और डीपसेक जैसे मॉडलों से राजनीतिक कम्पास परीक्षण (पीसीटी) के आधार पर छिपी परत सक्रियण को निकालने और उसकी तुलना करने वाले विपरीत युग्मों का उपयोग किया जाता है। हम एक व्यापक सक्रियण निष्कर्षण पाइपलाइन प्रस्तुत करते हैं जो कई वैचारिक अक्षों पर परत-दर-परत विश्लेषण करने में सक्षम है, और राजनीतिक ढाँचे में सार्थक अंतरों को उजागर करती है। परिणामस्वरूप, हम प्रदर्शित करते हैं कि डिकोडर एलएलएम विभिन्न परतों में प्रतिनिधित्वात्मक पूर्वाग्रहों को व्यवस्थित रूप से कूटबद्ध करते हैं, जिसका उपयोग प्रभावी स्टीयरिंग वेक्टर-आधारित शमन के लिए किया जा सकता है। सतही आउटपुट हस्तक्षेपों से परे, हम पूर्वाग्रह-मुक्ति के लिए एक सैद्धांतिक दृष्टिकोण प्रस्तुत करते हैं, जो एलएलएम में राजनीतिक पूर्वाग्रहों को कैसे कूटबद्ध किया जाता है, इस बारे में नई अंतर्दृष्टि प्रदान करता है।

____T161_____, Limitations

Takeaways:
एलएलएम के आंतरिक प्रतिनिधित्व विश्लेषण के माध्यम से वैचारिक पूर्वाग्रह की जांच और उसे कम करने के लिए एक नया ढांचा प्रस्तुत किया गया है।
पदानुक्रमिक विश्लेषण के माध्यम से एलएलएम के भीतर राजनीतिक पूर्वाग्रह की एक व्यवस्थित कोडिंग प्रक्रिया।
स्टीयरिंग वेक्टर्स पर आधारित एक प्रभावी पूर्वाग्रह शमन रणनीति प्रस्तुत की गई है।
पूर्वाग्रह को दूर करने के लिए एक सिद्धांतबद्ध दृष्टिकोण प्रदान करना जो सतही स्तर के आउटपुट हस्तक्षेपों से परे हो।
_____टी164_____:
प्रस्तावित ढांचे की व्यापकता और अन्य एलएलएम आर्किटेक्चर पर इसकी प्रयोज्यता निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
राजनीतिक कम्पास परीक्षण (पीसीटी) पर आधारित पूर्वाग्रह माप की सीमाएं और अन्य पूर्वाग्रह माप विधियों के साथ तुलनात्मक अनुसंधान की आवश्यकता।
वेक्टर-आधारित शमन रणनीतियों के दीर्घकालिक प्रभावकारिता और दुष्प्रभावों पर आगे अनुसंधान की आवश्यकता है।
विविध भाषाई और सांस्कृतिक संदर्भों में पूर्वाग्रह विश्लेषण और शमन रणनीतियों की सामान्यता निर्धारित करने के लिए अनुसंधान की आवश्यकता है।
👍