दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

भारित प्रतिक्रिया सहसंबंध के साथ शून्य-शॉट तंत्रिका वास्तुकला खोज

Created by
  • Haebom

लेखक

कुन जिंग, लुओयू चेन, जुंगांग जू, जियानवेई ताई, यियू वांग, शुआइमिन ली

रूपरेखा

यह शोधपत्र स्वचालित तंत्रिका नेटवर्क वास्तुकला डिज़ाइन के लिए एक नवीन शून्य-शॉट तंत्रिका वास्तुकला खोज (NAS) विधि प्रस्तुत करता है। दक्षता, स्थिरता और व्यापकता में मौजूदा शून्य-शॉट NAS विधियों की सीमाओं को दूर करने के लिए, हम भारित प्रतिक्रिया सहसंबंध (WRCor) नामक एक नया प्रशिक्षण-मुक्त प्रॉक्सी प्रस्तावित करते हैं। WRCor अनुमानित संरचना के लिए प्रॉक्सी स्कोर की गणना करने हेतु विभिन्न इनपुट नमूनों की प्रतिक्रियाओं के सहसंबंध गुणांक मैट्रिक्स का उपयोग करता है, जिससे इसकी अभिव्यंजना और सामान्यीकरण प्रदर्शन का मापन होता है। प्रायोगिक परिणाम दर्शाते हैं कि WRCor और मतदान-आधारित प्रॉक्सी मौजूदा प्रॉक्सी की तुलना में अधिक कुशल अनुमान रणनीतियाँ हैं, और विभिन्न खोज रणनीतियों के साथ संयुक्त होने पर, वे मौजूदा NAS एल्गोरिदम से बेहतर प्रदर्शन करते हैं। ImageNet-1k डेटासेट पर, हमने एक ऐसी संरचना की खोज की जो 4 GPU घंटों के भीतर 22.1% की परीक्षण त्रुटि दर प्राप्त करती है। स्रोत कोड सार्वजनिक रूप से उपलब्ध है।

Takeaways, Limitations

Takeaways:
मौजूदा शून्य-शॉट NAS विधियों की सीमाओं पर काबू पाने के लिए एक नया प्रॉक्सी (WRCor) प्रस्तावित किया गया।
WRCor का उपयोग करने वाला शून्य-शॉट NAS एल्गोरिदम मौजूदा NAS एल्गोरिदम से बेहतर प्रदर्शन करता है।
कुशल अन्वेषण का उपयोग करके इमेजनेट-1k पर कम समय में उच्च-प्रदर्शन संरचना खोज।
स्रोत कोड प्रकटीकरण के माध्यम से पुनरुत्पादन और मापनीयता सुनिश्चित करना
Limitations:
WRCor प्रॉक्सी के सामान्यीकरण प्रदर्शन के आगे सत्यापन की आवश्यकता है।
विभिन्न डेटासेट और कार्यों पर अतिरिक्त प्रयोगों की आवश्यकता है।
विशिष्ट खोज रणनीतियों पर निर्भरता का आकलन करने की आवश्यकता
👍