दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

ग्राफ्ट: गतिशील डेटा नमूनाकरण के लिए ग्रेडिएंट-अवेयर फास्ट मैक्सवॉल तकनीक

Created by
  • Haebom

लेखक

आशीष झा, अन्ह हुई फान, रज़ान डिबो, वैलेन्टिन लेप्लेट

रूपरेखा

यह शोधपत्र GRAFT प्रस्तुत करता है, जो एक मापनीय प्रशिक्षण-समय उपसमूह चयन विधि है जो बड़े डेटासेट पर आधुनिक तंत्रिका नेटवर्क के प्रशिक्षण की उच्च गणनात्मक और पर्यावरणीय लागतों को संबोधित करती है। GRAFT प्रत्येक बैच के लिए निम्न-आयामी फ़ीचर निरूपण निकालता है, बैच के मुख्य उप-स्थान को समाहित करने वाले एक छोटे, विविध उपसमूह का चयन करने के लिए फ़ास्ट मैक्सवॉल सैंपलर का उपयोग करता है, और एक ग्रेडिएंट सन्निकटन मानदंड का उपयोग करके उपसमूह के आकार को गतिशील रूप से समायोजित करता है। निम्न-आयामी उप-स्थान में संचालन करके और पूरे बैच के बजाय सावधानीपूर्वक चयनित उदाहरणों पर प्रशिक्षण देकर, GRAFT प्रशिक्षण प्रक्रिया को बनाए रखते हुए वॉल-क्लॉक समय, ऊर्जा खपत और कार्बन डाइऑक्साइड उत्सर्जन को कम करता है। कई बेंचमार्क में, GRAFT सटीकता और दक्षता दोनों में हाल के चयन मानदंडों से बेहतर प्रदर्शन करता है या उनसे मेल खाता है, जिससे सटीकता, दक्षता और उत्सर्जन के बीच एक अनुकूल समझौता होता है।

Takeaways, Limitations

Takeaways:
हम बड़े पैमाने के डेटासेट के प्रशिक्षण की कम्प्यूटेशनल और पर्यावरणीय लागत को प्रभावी ढंग से कम करने के लिए एक नवीन विधि प्रस्तुत करते हैं।
हमने प्रयोगात्मक रूप से प्रदर्शित किया है कि सटीकता से समझौता किए बिना प्रशिक्षण समय और ऊर्जा खपत को कम करने के लिए GRAFT एक कुशल विधि है।
एक व्यावहारिक दृष्टिकोण प्रदान करना जो सटीकता, दक्षता और उत्सर्जन के बीच अच्छा संतुलन बनाए रखे।
Limitations:
वर्तमान में प्रस्तुत बेंचमार्क से परे अन्य प्रकार के तंत्रिका नेटवर्क या डेटासेट पर सामान्यीकरण प्रदर्शन को सत्यापित करने की आवश्यकता है।
फास्ट मैक्सवॉल सैम्पलर की कम्प्यूटेशनल जटिलता कुछ स्थितियों में सीमित हो सकती है।
ग्रेडिएंट सन्निकटन मानदंड के लिए इष्टतम पैरामीटर निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
👍