दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एक सॉफ्टवेयर इंजीनियर जेनरेटिव मॉडल कैसे तैयार करता है? स्थिर प्रसार पूर्वाग्रह पर एक केस स्टडी

Created by
  • Haebom

लेखक

टोसिन फदाहुंसी, जिओर्डानो डी'एलोइसियो, एंटिनिस्का डि मार्को, फेडेरिका सरो

रूपरेखा

यह पत्र स्टेबल डिफ्यूजन (एसडी) मॉडल (एसडी 2, एसडी एक्सएल, और एसडी 3) के तीन संस्करणों का उपयोग करके सॉफ्टवेयर इंजीनियरिंग से संबंधित चित्र उत्पन्न करता है और उत्पन्न चित्रों में लिंग और नस्लीय पूर्वाग्रहों का विश्लेषण करता है। सॉफ्टवेयर इंजीनियरिंग के क्षेत्र में लिंग और नस्लीय असंतुलन को ध्यान में रखते हुए, हमने दो संकेतों के लिए प्रत्येक मॉडल का उपयोग करके 6,720 चित्र उत्पन्न किए: एक में "सॉफ्टवेयर इंजीनियर" कीवर्ड था और एक में नहीं। हमारे विश्लेषण से पता चलता है कि सभी मॉडल सॉफ्टवेयर इंजीनियरों को पुरुष के रूप में चित्रित करते हैं, एसडी 2 और एसडी एक्सएल श्वेत व्यक्तियों का थोड़ा अधिक प्रतिनिधित्व दिखाते हैं, और एसडी 3 एशियाई व्यक्तियों का थोड़ा अधिक प्रतिनिधित्व दिखाते हैं। सभी मॉडलों ने अश्वेत व्यक्तियों और अरब व्यक्तियों का कम प्रतिनिधित्व किया।

____T295962_____, Limitations

Takeaways:
सॉफ्टवेयर इंजीनियरिंग में जनरेटिव मॉडल में लिंग और नस्लीय पूर्वाग्रह को अनुभवजन्य रूप से प्रदर्शित करना।
इस बात पर प्रकाश डाला गया कि जनरेटिव मॉडल मौजूदा सामाजिक पूर्वाग्रहों को बढ़ा सकते हैं।
सॉफ्टवेयर इंजीनियरिंग में जनरेटिव मॉडल का उपयोग करते समय पूर्वाग्रह शमन रणनीतियों की आवश्यकता पर बल दिया गया है।
जनरेटिव मॉडलों के पूर्वाग्रह मुद्दे पर आगे अनुसंधान की आवश्यकता को उठाना।
Limitations:
किसी विशिष्ट जनरेटिव मॉडल (स्थिर प्रसार) के विश्लेषण में सामान्यीकरण की सीमाएँ होती हैं।
पूर्वाग्रह को कम करने के लिए विशिष्ट प्रस्तावों का अभाव।
विश्लेषण में प्रयुक्त संकेतों की विविधता पर सीमाएं।
नस्ल और लिंग वर्गीकरण की व्यक्तिपरकता के कारण त्रुटि की संभावना।
👍