TreeGPT एक ध्यान-रहित तंत्रिका नेटवर्क आर्किटेक्चर है जो शुद्ध TreeFFN एनकोडर-डिकोडर डिज़ाइन का उपयोग करके संरचित अनुमान कार्यों की क्षमता का अन्वेषण करता है। ध्यान तंत्र पर निर्भर पारंपरिक ट्रांसफ़ॉर्मर दृष्टिकोणों के विपरीत, TreeGPT का उद्देश्य द्विदिश TreeFFN घटकों का उपयोग करके कम्प्यूटेशनल दक्षता बनाए रखते हुए अनुमान प्रदर्शन प्राप्त करना है जो पड़ोसी कनेक्शनों के माध्यम से समानांतर में अनुक्रमों को संसाधित करते हैं। बाएँ से दाएँ निर्भरताओं को संसाधित करने वाला एनकोडर और दाएँ से बाएँ पैटर्न को संसाधित करने वाला डिकोडर, दोनों ही सरल पड़ोसी कनेक्शनों वाले TreeFFN एनकोडर-डिकोडर तंत्र पर केंद्रित हैं। 3.16 मिलियन मापदंडों का उपयोग करके, हमने ARC पुरस्कार 2025 डेटासेट पर 99% सत्यापन सटीकता प्राप्त की। मॉडल 1,500 प्रशिक्षण चरणों में अभिसरित हुआ और चयनित मूल्यांकन नमूनों पर 100% टोकन-स्तरीय सटीकता प्राप्त की।
