यह शोधपत्र पिछले अध्ययनों की सीमाओं को इंगित करता है जो बड़े पैमाने पर भाषा मॉडल (LLM) की विश्वसनीयता समस्या को हल करने के लिए सक्रियण वैक्टर का उपयोग करके उत्तरों की सटीकता का मूल्यांकन करते हैं। पिछले अध्ययनों का दावा है कि किसी विशिष्ट कार्य में उत्पन्न सही और गलत सक्रियण वैक्टर के बीच अंतर करने के लिए रैखिक क्लासिफायर का उपयोग करके "सत्य की ज्यामिति" सीखी जा सकती है। हालाँकि, यह शोधपत्र दर्शाता है कि यह "सत्य की ज्यामिति" कार्यों में काफी भिन्न होती है और विभिन्न कार्यों में स्थानांतरित नहीं होती है। विशेष रूप से, हम प्रयोगात्मक रूप से साबित करते हैं कि विभिन्न कार्यों पर प्रशिक्षित रैखिक क्लासिफायर में बहुत कम समानता होती है, और विशेष रूप से जब विरलता-प्रवर्तन नियमितकर्ता का उपयोग किया जाता है, तो वे बहुत कम ओवरलैप करते हैं। हम यह भी दिखाते हैं कि मिश्रित-जांच या बहु-कार्य दृष्टिकोण इन सीमाओं को दूर करने में विफल होते हैं, और हम तर्क देते हैं कि ऐसा इसलिए है क्योंकि कार्यों में सक्रियण वैक्टर स्पष्ट रूप से अलग-अलग क्लस्टर बनाते हैं।
