यह शोधपत्र सारणीबद्ध समझ के लिए बड़े पैमाने पर भाषा मॉडल (LLM) के फाइन-ट्यूनिंग और डोमेन के बाहर सामान्यीकरण और सामान्यीकरण करने की उनकी क्षमता पर हाइपरपैरामीटर चयन के प्रभाव के व्यापक मूल्यांकन की कमी को इंगित करता है। हम मौजूदा सारणीबद्ध LLM का मूल्यांकन करते हैं और पाते हैं कि डोमेन के बाहर सामान्यीकरण और समझने की उनकी क्षमता बेसलाइन मॉडल की तुलना में काफी खराब है। हम दिखाते हैं कि सीखने की दर जैसे हाइपरपैरामीटर का सारणीबद्ध-विशिष्ट और सामान्य दोनों विशेषताओं पर महत्वपूर्ण प्रभाव पड़ता है, और पिछले अध्ययनों के विपरीत, हम दिखाते हैं कि छोटी सीखने की दर और कुछ प्रशिक्षण उदाहरण सामान्य विशेषताओं को बनाए रखते हुए सारणीबद्ध समझ में सुधार कर सकते हैं। इन परिणामों के आधार पर, हम TAMA नामक एक सारणीबद्ध LLM प्रस्तुत करते हैं, जिसे LLaMA 3.1 8B इंस्ट्रक्ट पर फाइन-ट्यून किया गया है, जो मजबूत आउटसाइड-डोमेन सामान्यीकरण और सामान्य विशेषताओं को बनाए रखते हुए सारणीबद्ध कार्यों पर GPT-3.5 और GPT-4 की तुलना में बेहतर या बराबर प्रदर्शन प्राप्त करता है। यह सावधानीपूर्वक हाइपरपैरामीटर चयन के माध्यम से डेटा एनोटेशन लागत को कम करने और मॉडल विकास दक्षता में सुधार करने की क्षमता को प्रदर्शित करता है। हम इस शोधपत्र में अपने प्रोजेक्ट और मॉडल को ओपन सोर्स करते हैं।
