दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

चयनात्मक असहमति के माध्यम से ACE और विविध सामान्यीकरण

Created by
  • Haebom

लेखक

ओलिवर डेनियल, स्टुअर्ट आर्मस्ट्रांग, अलेक्जेंड्रे मारान्हाओ , माहिरा फैरुज़ रहमान, बेंजामिन एम. मार्लिन, रेबेका गोर्मन

रूपरेखा

यह शोधपत्र ACE का प्रस्ताव करता है, जो गहरे तंत्रिका नेटवर्कों की छद्म सहसंबंधों के प्रति संवेदनशीलता को दूर करने की एक नवीन विधि है। मौजूदा शोध अपूर्ण छद्म सहसंबंधों पर केंद्रित रहा है, जिसमें सहसंबंध को तोड़ने के लिए लेबल वाले उदाहरणों का उपयोग किया जाता है। हालाँकि, पूर्ण छद्म सहसंबंधों के लिए, सही सामान्यीकरण मूल रूप से अस्पष्ट है। ACE इस अस्पष्ट समस्या का समाधान उन अवधारणाओं के एक समूह को सीखकर करता है जो प्रशिक्षण डेटा के अनुरूप हैं लेकिन नए, लेबल रहित इनपुट के एक उपसमूह के लिए अलग-अलग पूर्वानुमान करते हैं। एक स्व-प्रशिक्षण दृष्टिकोण का उपयोग करते हुए जो आत्मविश्वासपूर्ण और चयनात्मक बेमेल को प्रोत्साहित करता है, ACE विभिन्न पूर्ण छद्म सहसंबंध मानदंडों पर मौजूदा विधियों के बराबर या उनसे बेहतर प्रदर्शन करता है और अपूर्ण छद्म सहसंबंधों के प्रति सुदृढ़ है। इसके अलावा, ACE मौजूदा विधियों की तुलना में अधिक विन्यास योग्य है, पूर्व ज्ञान को सीधे एन्कोड करता है और सिद्धांत-आधारित अप्रशिक्षित मॉडल चयन को सक्षम बनाता है। भाषा मॉडल संरेखण के प्रारंभिक अनुप्रयोगों में, ACE ने अविश्वसनीय मापों तक पहुँच के बिना माप हेरफेर पहचान मानदंडों पर प्रतिस्पर्धी प्रदर्शन हासिल किया।

Takeaways, Limitations

Takeaways:
पूर्णतः नकली सहसंबंध समस्या (एसीई एल्गोरिथम) का एक नया समाधान।
विभिन्न मानकों पर मौजूदा विधियों की तुलना में बेहतर या समकक्ष प्रदर्शन प्राप्त करता है।
अपूर्ण नकली सहसंबंधों के प्रति मजबूती।
पूर्व ज्ञान एनकोडिंग और अप्रशिक्षित मॉडल चयन संभव।
अविश्वसनीय मैट्रिक्स के बिना भाषा मॉडल संरेखण में प्रतिस्पर्धी प्रदर्शन प्राप्त करना।
Limitations:
अभी भी महत्वपूर्ण Limitations मौजूद है (विशिष्ट Limitations का पेपर में स्पष्ट रूप से उल्लेख नहीं किया गया है)।
👍