यह शोधपत्र विभिन्न अन्वेषण तकनीकों का उपयोग करते हुए बड़े पैमाने के भाषा मॉडल (एलएलएम) की "सॉफ्ट थिंकिंग" क्षमताओं की जाँच करता है। सॉफ्ट थिंकिंग का उद्देश्य एक सतत अवधारणा स्थान में अनुमान को सुगम बनाने के लिए सॉफ्ट टोकन उत्पन्न करना है। पारंपरिक ज्ञान के विपरीत, हम पाते हैं कि एलएलएम बाद के डिकोडिंग के दौरान मुख्य रूप से सॉफ्ट इनपुट के सबसे प्रभावशाली घटकों पर निर्भर करते हैं, जिससे विविध अनुमान पथों के अन्वेषण में बाधा उत्पन्न होती है। इस सीमा को पार करने के लिए, हम डिरिचलेट रीसैंपलिंग और गम्बेल-सॉफ्टमैक्स तकनीक जैसी नमूनाकरण रणनीतियों के माध्यम से यादृच्छिकता का परिचय देते हैं, जिसका उद्देश्य सॉफ्ट थिंकिंग की क्षमता को उजागर करना है। प्रायोगिक परिणाम दर्शाते हैं कि गम्बेल-सॉफ्टमैक्स तकनीक आठ अनुमान मानदंडों पर गम्बेल-सॉफ्टमैक्स तकनीक से बेहतर प्रदर्शन करती है।