इस शोधपत्र में, हम बड़े पैमाने के भाषा मॉडल (LLM) के प्रशिक्षण की उच्च लागत को संबोधित करने के लिए, एक मापनीयता नियम, फ़ार्सीर प्रस्तुत करते हैं। फ़ार्सीर व्यवस्थित रूप से एक मॉडल हानि सतह L(N,D) का निर्माण करता है जो प्रायोगिक आँकड़ों पर मौजूदा मापनीयता नियमों (जैसे, चिनचिला नियम) की तुलना में बहुत अधिक सटीकता प्राप्त करता है। विभिन्न आकारों और विन्यासों के लगभग 1,000 LLM के प्रशिक्षण के व्यापक प्रयोगों के माध्यम से इसकी पुष्टि की गई है, और यह बेहतर एक्सट्रपलेशन क्षमता प्रदर्शित करता है, जिससे चिनचिला नियम की तुलना में एक्सट्रपलेशन त्रुटि 433% कम हो जाती है। यह छोटे पैमाने के प्रायोगिक परिणामों को बड़े पैमाने के प्रदर्शन पूर्वानुमानों में विश्वसनीय रूप से एक्सट्रपलेशन करने में सक्षम बनाता है, और कंप्यूटिंग संसाधनों के इष्टतम आवंटन में नई अंतर्दृष्टि प्रदान करता है। सभी मॉडल, डेटा, परिणाम और लॉग सार्वजनिक रूप से साझा किए जाते हैं।
