यह शोधपत्र गहन अधिगम के दौरान जटिल संगणनात्मक संरचनाओं के निर्माण और पुनर्रचना के दौरान इनपुट/आउटपुट व्यवहार में परिवर्तन की परिघटना पर केंद्रित है, जो तंत्रिका नेटवर्क प्राचल स्थान में उच्च-आयामी हानि परिदृश्यों का अन्वेषण करता है। विशेष रूप से, एकवचन अधिगम सिद्धांत के ढाँचे का लाभ उठाते हुए, हम यह परिकल्पना करते हैं कि मॉडल विकास हानि परिदृश्य के स्थानीय ज्यामितीय गुणों, जिसे अपभ्रंश कहते हैं, से गहराई से जुड़ा हुआ है। एक ट्रांसफ़ॉर्मर भाषा मॉडल और एक संदर्भ-विशिष्ट रैखिक समाश्रयण ट्रांसफ़ॉर्मर को लक्षित करते हुए, हम स्थानीय अधिगम गुणांकों का उपयोग करके प्रशिक्षण प्रक्रिया के दौरान हानि परिदृश्य की अपभ्रंशता की निगरानी करते हैं। हम प्रदर्शित करते हैं कि प्रशिक्षण प्रक्रिया कई अवधियों में विभाजित होती है, जो हानि परिदृश्य की अपभ्रंशता में परिवर्तनों द्वारा प्रतिष्ठित होती हैं, और अपभ्रंशता में ये परिवर्तन ट्रांसफ़ॉर्मर की आंतरिक संगणनात्मक संरचना और इनपुट/आउटपुट व्यवहार में परिवर्तनों के अनुरूप होते हैं। यह इस बात का प्रमाण प्रदान करता है कि ट्रांसफ़ॉर्मरों में अपभ्रंशता और विकास जुड़े हुए हैं, जो आधुनिक गहन अधिगम को समझने के लिए अपभ्रंश-आधारित परिप्रेक्ष्य की क्षमता को उजागर करता है।
