यह शोधपत्र तर्क देता है कि बड़े पैमाने के भाषा मॉडल (एलएलएम) के व्यवहार को समझना उनके सुरक्षित और विश्वसनीय उपयोग के लिए अत्यंत महत्वपूर्ण है। हालाँकि, मौजूदा व्याख्या योग्य एआई (एक्सएआई) विधियाँ मुख्यतः शब्द-स्तरीय स्पष्टीकरणों पर निर्भर करती हैं, जो गणना की दृष्टि से अक्षम और मानवीय तर्क के साथ असंगत हैं। इसके अलावा, हम स्पष्टीकरणों को एकबारगी आउटपुट के रूप में मानने और स्पष्टीकरणों की अंतःक्रियात्मक और पुनरावृत्तीय प्रकृति की अनदेखी करने के मुद्दे पर भी विचार करते हैं। इसके उत्तर में, हम एलएलएम विश्लेषक प्रस्तुत करते हैं, जो एक अंतःक्रियात्मक विज़ुअलाइज़ेशन प्रणाली है जो प्रति-तथ्यात्मक विश्लेषण के माध्यम से एलएलएम व्यवहार का सहज और कुशल अन्वेषण संभव बनाती है। एलएलएम विश्लेषक में एक नवीन एल्गोरिथम है जो उपयोगकर्ता-निर्धारित स्तर की ग्रैन्युलैरिटी पर लक्ष्य-निर्देशित उन्मूलन और प्रतिस्थापन संक्रियाओं के माध्यम से धाराप्रवाह और अर्थपूर्ण रूप से सार्थक प्रति-तथ्यात्मक ... उपयोगकर्ता अध्ययन और एलएलएम विशेषज्ञों के साथ साक्षात्कार प्रणाली की उपयोगिता और प्रभावशीलता को प्रदर्शित करते हैं, तथा स्पष्टीकरण प्रक्रिया में निष्क्रिय प्राप्तकर्ताओं के बजाय सक्रिय प्रतिभागियों के रूप में मनुष्यों को शामिल करने के महत्व पर बल देते हैं।
