यह शोधपत्र बड़े पैमाने के भाषा मॉडल (LLM) के लिए क्लाउड-आधारित सेवाओं में प्रयुक्त प्रति-टोकन मूल्य निर्धारण तंत्र की कमजोरियों का विश्लेषण करता है। वर्तमान टोकन-आधारित मूल्य निर्धारण, सेवा प्रदाताओं को मॉडल के आउटपुट में प्रयुक्त टोकन की संख्या की गलत रिपोर्टिंग करके अधिकतम लाभ कमाने के लिए प्रोत्साहित करता है, जिससे उपयोगकर्ताओं के पास इसे सत्यापित करने का कोई तरीका नहीं बचता। हम इस कमजोरी को प्रदर्शित करते हैं और एक कुशल अनुमानी एल्गोरिथ्म प्रस्तावित करते हैं जो सेवा प्रदाताओं को बिना किसी संदेह के शुल्क लेने की अनुमति देता है। इसके अलावा, हम यह भी प्रदर्शित करते हैं कि टोकन का मूल्य निर्धारण इस प्रोत्साहन को समाप्त करने के लिए टोकन में वर्णों की संख्या पर रैखिक रूप से निर्भर करता है, और एक ऐसी विधि प्रस्तावित करते हैं जो औसत लाभ बनाए रखती है। हम अपने सैद्धांतिक निष्कर्षों को लामा, जेम्मा और मिनिस्ट्रल परिवारों के कई LLM, साथ ही LMSYS चैटबॉट एरिना प्लेटफ़ॉर्म के संकेतों का उपयोग करके किए गए प्रयोगात्मक परिणामों के साथ पूरक करते हैं।
