यह शोधपत्र स्व-निर्मित अर्ध-अनुभवजन्य स्पष्टीकरणों (एससीई) का उपयोग करके अपनी निर्णय-निर्माण प्रक्रियाओं की व्याख्या करने हेतु बड़े पैमाने के भाषा मॉडल (एलएलएम) की क्षमता का मूल्यांकन करता है। एससीई ऐसे स्पष्टीकरण हैं जो पूर्वानुमानित परिणामों को बदलने के लिए इनपुट को संशोधित करते हैं। हमारे परिणाम दर्शाते हैं कि एलएलएम मान्य एससीई उत्पन्न करते हैं, लेकिन न्यूनतम संशोधन करने में विफल रहते हैं, जिससे मॉडल की निर्णय-निर्माण प्रक्रियाओं की बहुत कम जानकारी मिलती है। विशेष रूप से, जब उनसे न्यूनतम संशोधनों के साथ एससीई उत्पन्न करने के लिए कहा जाता है, तो वे अत्यधिक छोटे संशोधन करते हैं जो पूर्वानुमानित परिणामों को बदलने में विफल रहते हैं। विभिन्न एलएलएम, डेटासेट और मूल्यांकन सेटिंग्स में, हम वैधता और न्यूनतमता के बीच एक समझौता देखते हैं। इसलिए, हम निष्कर्ष निकालते हैं कि एससीई एक प्रभावी व्याख्यात्मक उपकरण नहीं हैं और मॉडल व्यवहार के बारे में गलतफहमियों को जन्म दे सकते हैं। उच्च-दांव वाली स्थितियों में एलएलएम का उपयोग करने के लिए बाद के निर्णयों पर अविश्वसनीय स्व-स्पष्टीकरणों के प्रभाव पर विचार करना आवश्यक है।
