दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

मेटाएलएलमिक्स: हाइपर-पैरामीटर अनुकूलन के लिए एक एक्सएआई सहायता प्राप्त एलएलएम-मेटा-लर्निंग आधारित दृष्टिकोण

Created by
  • Haebom

लेखक

मोहम्मद तिउती, मोहम्मद बाल-घौई

रूपरेखा

MetaLLMiX एक ज़ीरो-शॉट हाइपरपैरामीटर ऑप्टिमाइज़ेशन फ्रेमवर्क है जो मेटा-लर्निंग, व्याख्यात्मक AI और कुशल LLM अनुमान को जोड़ता है। मौजूदा AutoML और LLM-आधारित दृष्टिकोणों की परीक्षण-त्रुटि और उच्च-लागत API चुनौतियों का समाधान करने के लिए, यह बिना किसी अतिरिक्त परीक्षण के पिछले प्रयोगात्मक परिणामों के आधार पर इष्टतम हाइपरपैरामीटर और पूर्व-प्रशिक्षित मॉडल की अनुशंसा करने हेतु SHAP स्पष्टीकरणों का लाभ उठाता है। आउटपुट स्वरूप, सटीकता और पूर्णता को नियंत्रित करने के लिए LLM का उपयोग निर्णायक के रूप में किया जाता है। आठ मेडिकल इमेज डेटासेट और नौ ओपन-सोर्स लाइटवेट LLM का उपयोग करके किए गए प्रयोगों में, यह कम्प्यूटेशनल लागत को उल्लेखनीय रूप से कम करते हुए मौजूदा HPO विधियों की तुलना में प्रतिस्पर्धी या बेहतर प्रदर्शन प्राप्त करता है। यह मौजूदा API-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करता है, आठ में से पाँच कार्यों पर इष्टतम परिणाम प्राप्त करता है, प्रतिक्रिया समय को 99.6-99.9% तक कम करता है, और छह डेटासेट पर सबसे तेज़ प्रशिक्षण समय (2.4-15.7x) प्राप्त करता है। सटीकता सर्वश्रेष्ठ प्रदर्शन करने वाले बेंचमार्क मॉडल के 1-5% के भीतर रहती है।

Takeaways, Limitations

Takeaways:
शून्य-शॉट हाइपरपैरामीटर अनुकूलन, ऑटोएमएल और एलएलएम-आधारित दृष्टिकोणों के परीक्षण-और-त्रुटि और उच्च लागतों पर काबू पाता है।
हमने SHAP विवरणों का लाभ उठाकर व्याख्यात्मकता बढ़ाई।
हमने कम समय में मौजूदा एचपीओ विधियों की तुलना में बेहतर या प्रतिस्पर्धी प्रदर्शन हासिल किया।
स्थानीय परिनियोजन, API-आधारित दृष्टिकोणों की तुलना में अधिक कुशलता से कार्य करता है।
Limitations:
आठ प्रस्तावित मेडिकल इमेज डेटासेट और नौ ओपन-सोर्स लाइटवेट एलएलएम के लिए सामान्यीकरण सत्यापन आवश्यक है।
विभिन्न प्रकार के डेटासेट और मॉडलों के साथ आगे और प्रयोग करने की आवश्यकता है।
SHAP विवरण की व्याख्या के लिए आगे अनुसंधान की आवश्यकता हो सकती है।
👍