यह शोधपत्र ग्राफ़- और मेश-आधारित रूपात्मक विश्लेषण कार्यों के लिए प्रयुक्त मौजूदा ट्रांसफ़ॉर्मर आर्किटेक्चर की सीमाओं को दूर करने के लिए एक नवीन दृष्टिकोण प्रस्तुत करता है। मौजूदा दृष्टिकोण स्पेक्ट्रल विशेषताओं पर अत्यधिक निर्भर करते हैं, और आमतौर पर पारंपरिक ध्यान परतों का उपयोग करते हैं जिनके लिए महंगी आइगेनवैल्यू अपघटन-आधारित विधियों की आवश्यकता होती है। मेश संरचनाओं को एनकोड करने के लिए, ये विधियाँ स्थितीय एम्बेडिंग प्राप्त करती हैं जो लैप्लासियन मैट्रिक्स या कॉलम कर्नेल सिग्नेचर पर आधारित आइगेनवैल्यू अपघटन संक्रियाओं पर अत्यधिक निर्भर करती हैं, और इन्हें इनपुट विशेषताओं के साथ संबद्ध करती हैं। असतत बाह्य कलन से प्रेरित होकर, जो स्पष्ट रूप से असतत हॉज ऑपरेटरों, $(L := \star_0^{-1} d_0^T \star_1 d_0)$ के गुणनफल के रूप में हॉज लाप्लासियन ऑपरेटर का निर्माण करता है, हम ट्रांसफॉर्मर आर्किटेक्चर को एक नई गहन शिक्षण परत के अनुकूल बनाते हैं जो एक बहु-शीर्ष ध्यान तंत्र का उपयोग करके हॉज मैट्रिसेस $\star_0$, $\star_1$, और $\star_2$ का सन्निकटन करती है और मेश शीर्षों, किनारों और फलकों पर कार्य करने वाले असतत ऑपरेटरों $L$ के एक परिवार को सीखती है। हमारा दृष्टिकोण एक गणना-कुशल आर्किटेक्चर प्रदान करता है जो महँगे आइगेनवैल्यू अपघटन संक्रियाओं या जटिल पूर्व-प्रसंस्करण संक्रियाओं के बिना, प्रत्यक्ष शिक्षण ढाँचे के माध्यम से मेश विभाजन और वर्गीकरण कार्यों पर तुलनीय प्रदर्शन प्राप्त करता है।
