दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

अवमंदित नेस्टरोव त्वरण के साथ उन्नत NIRMAL अनुकूलक: एक तुलनात्मक विश्लेषण

Created by
  • Haebom

लेखक

निर्मल गौड़, प्रसाद कृष्ण मूर्ति, मोस्ताक मो. मोरशेदुर हसन, अभिजीत गांगुली, विनय माली, सुश्री ललिता भागवत रणदिवे, अभयप्रताप सिंह

रूपरेखा

यह अध्ययन उन्नत NIRMAL अनुकूलन एल्गोरिथम प्रस्तुत करता है, जो मूल NIRMAL अनुकूलन एल्गोरिथम को बेहतर बनाता है। उन्नत NIRMAL में $(\alpha, r)$-अवमंदित नेस्टरोव त्वरण तंत्र शामिल है जो अभिसरण स्थिरता में सुधार करता है और साथ ही मूल NIRMAL की शतरंज-प्रेरित ढाल अवरोहण, संवेग, स्टोकेस्टिक विक्षोभ, अनुकूली अधिगम दर और अरैखिक रूपांतरण रणनीतियों को बनाए रखता है। हमने उन्नत NIRMAL की तुलना एडम, संवेग SGD, नेस्टरोव और मूल NIRMAL से चार छवि वर्गीकरण बेंचमार्क डेटासेट: MNIST, FashionMNIST, CIFAR-10 और CIFAR-100 पर की है। CIFAR-100 डेटासेट पर, उन्नत NIRMAL ने 46.06% की परीक्षण सटीकता और 1.960435 की न्यूनतम परीक्षण हानि प्राप्त की, जो मूल NIRMAL (44.34%) से बेहतर प्रदर्शन करता है और संवेग SGD (46.43%) के समान प्रदर्शन करता है। यह विशेष रूप से जटिल डेटासेट पर, उन्नत NIRMAL के बेहतर सामान्यीकरण प्रदर्शन और स्थिरता को प्रदर्शित करता है।

Takeaways, Limitations

Takeaways:
हम $(\Alpha, r)$-अवमंदित नेस्टरोव त्वरण तंत्र के माध्यम से बेहतर अभिसरण स्थिरता और सामान्यीकरण प्रदर्शन का प्रदर्शन करते हैं।
हम एक नवीन अनुकूलन एल्गोरिथ्म प्रस्तुत करते हैं जो जटिल छवि वर्गीकरण समस्याओं के लिए प्रभावी है।
मौजूदा NIRMAL एल्गोरिथम के प्रदर्शन में सुधार।
Limitations:
सीमित बेंचमार्क डेटासेट (MNIST, FashionMNIST, CIFAR-10, CIFAR-100) का उपयोग करना।
अन्य अनुकूलन एल्गोरिदम के साथ तुलनात्मक विश्लेषण अधिक विविध डेटासेट और नेटवर्क संरचनाओं पर किया जाना चाहिए।
$(\Alpha, r)$ पैरामीटर का इष्टतम मान निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
एन्हांस्ड NIRMAL की पूर्ण श्रेष्ठता को स्पष्ट रूप से बताना कठिन है, क्योंकि मोमेंटम SGD के साथ इसके प्रदर्शन में अंतर बहुत अधिक नहीं है।
👍