दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

उदाहरण-मुक्त सतत शिक्षण में एकल-कार्य डेटा विषाक्तता के विनाशकारी प्रभावों को संबोधित करना

Created by
  • Haebom

लेखक

स्टैनिस{\L}लॉ पावलक (वारसॉ यूनिवर्सिटी ऑफ टेक्नोलॉजी, पोलैंड), बार्ट{\l}ओमिएज टवार्डोव्स्की (आइडियाज रिसर्च इंस्टीट्यूट, पोलैंड, कंप्यूटर विजन सेंटर, यूनिवर्सिटेट ऑटोनोमा डी बार्सिलोना, स्पेन), टोमाज़ ट्र्ज़सी एनस्की (वारसॉ यूनिवर्सिटी ऑफ टेक्नोलॉजी, पोलैंड, आईडीईएएस रिसर्च इंस्टीट्यूट, पोलैंड), जोस्ट वैन डी वीजर (कंप्यूटर विजन सेंटर, यूनिवर्सिटैट ऑटोनोमा डी बार्सिलोना, स्पेन)

रूपरेखा

यह अध्ययन डेटा पॉइज़निंग के सुरक्षा मुद्दे को संबोधित करता है, जिसे सतत शिक्षण (CL) में अनदेखा किया गया है। जबकि पिछले शोध परिदृश्य-निर्भर हमलों पर केंद्रित रहे हैं, यह अध्ययन एकल-कार्य पॉइज़निंग (STP) के सरल और अधिक यथार्थवादी खतरे पर केंद्रित है। STP हमले में, प्रतिद्वंदी के पास मॉडल, पिछले कार्य डेटा या भविष्य के कार्य डेटा तक कोई पहुँच नहीं होती है। प्रतिद्वंदी के पास डेटा स्ट्रीम में केवल वर्तमान कार्य डेटा तक ही पहुँच होती है, और हम प्रदर्शित करते हैं कि यह मानक छवि भ्रष्टाचार का फायदा उठाकर मॉडल के प्रदर्शन को कम कर सकता है। STP हमले संपूर्ण सतत शिक्षण प्रक्रिया को बाधित करते हैं, पिछले कार्यों (स्थिरता) पर प्रदर्शन और नए कार्यों (प्लास्टिसिटी) के अनुकूल होने की क्षमता, दोनों को कम करते हैं। अंत में, हम CL के लिए एक उच्च-स्तरीय रक्षा ढाँचे के साथ-साथ एक कार्य वेक्टर-आधारित पॉइज़निंग कार्य पहचान विधि का प्रस्ताव करते हैं।

Takeaways, Limitations

Takeaways:
हम निरंतर सीखने में एकल-कार्य विषाक्तता (एसटीपी) हमलों की गंभीरता को उजागर करते हैं।
एसटीपी हमलों के खिलाफ एक प्रभावी रक्षा ढांचे की प्रस्तुति और विषाक्तता संचालन का पता लगाने के लिए एक विधि।
हम यह प्रदर्शित करते हैं कि सीमित सूचना पहुंच की स्थिति में भी डेटा विषाक्तता हमले संभव हैं।
Limitations:
वास्तविक दुनिया के वातावरण में प्रस्तावित रक्षा ढांचे के सामान्यीकरण प्रदर्शन और प्रयोज्यता का मूल्यांकन करने के लिए आगे अनुसंधान की आवश्यकता है।
अधिक परिष्कृत और विविध प्रकार के हमलों का विश्लेषण आवश्यक है।
एसटीपी हमलों के विरुद्ध रक्षा तंत्र की कम्प्यूटेशनल लागत और प्रदर्शन ओवरहेड विश्लेषण की आवश्यकता है।
👍