यह शोधपत्र बड़े पैमाने के भाषा मॉडल (एलएम) में निष्पक्षता की एक व्यवस्थित जाँच प्रस्तुत करता है। हम इस बात पर प्रकाश डालते हैं कि विभिन्न प्राकृतिक भाषा प्रसंस्करण (एनएलपी) कार्यों में अपने उत्कृष्ट प्रदर्शन के बावजूद, एलएम लिंग और नस्ल जैसे संवेदनशील गुणों से जुड़े सामाजिक पूर्वाग्रहों को विरासत में प्राप्त कर सकते हैं और बढ़ा सकते हैं। इसलिए, यह शोधपत्र विभिन्न मौजूदा निष्पक्षता अवधारणाओं की व्यापक समीक्षा करता है और ट्रांसफ़ॉर्मर आर्किटेक्चर पर आधारित एक नई वर्गीकरण योजना का प्रस्ताव करता है, जिसमें केवल-एनकोडर, केवल-डिकोडर, और एनकोडर-डिकोडर एलएम शामिल हैं। प्रत्येक निष्पक्षता परिभाषा के लिए प्रायोगिक उदाहरण और परिणाम प्रस्तुत किए गए हैं, और इस क्षेत्र को आगे बढ़ाने के लिए भविष्य के शोध और खुले मुद्दों पर चर्चा की गई है।
