दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

निजी GAN और प्रसार मॉडल के बीच MIA भेद्यता अंतराल पर

Created by
  • Haebom

लेखक

इलाना सेबैग, जीन-यवेस फ्रांसेस्की, एलेन राकोटोमामोन्जी, अलेक्जेंड्रे अल्लाउज़ेन, जमाल आतिफ़

रूपरेखा

यह शोधपत्र विभेदक गोपनीयता (DP) के अंतर्गत प्रशिक्षित जनरेटिव एडवर्सेरियल नेटवर्क्स (GANs) और प्रसार मॉडल्स की सदस्यता अनुमान हमलों (MIA) के प्रति भेद्यता का पहला व्यापक सैद्धांतिक और प्रायोगिक विश्लेषण प्रस्तुत करता है। स्थिरता-आधारित विश्लेषण दर्शाता है कि प्रसार मॉडल्स की तुलना में GANs डेटा विक्षोभों के प्रति मूलतः कम संवेदनशील होते हैं, जो MIA प्रतिरोध में एक संरचनात्मक लाभ का संकेत देता है। एक मानकीकृत MIA पाइपलाइन का उपयोग करते हुए व्यापक प्रायोगिक अध्ययन विभिन्न डेटासेट्स और गोपनीयता बजटों में गोपनीयता रिसाव का मूल्यांकन करते हैं, और लगातार यह दर्शाते हैं कि GANs, प्रसार मॉडल्स की तुलना में, यहाँ तक कि मज़बूत DP व्यवस्थाओं के अंतर्गत भी, गोपनीयता की मज़बूती काफ़ी अधिक प्रदर्शित करते हैं। यह इस बात पर प्रकाश डालता है कि मॉडल का प्रकार स्वयं गोपनीयता रिसाव को महत्वपूर्ण रूप से प्रभावित कर सकता है।

Takeaways, Limitations

Takeaways:
हम सैद्धांतिक और प्रयोगात्मक रूप से प्रदर्शित करते हैं कि GANs प्रसार मॉडल की तुलना में MIA के प्रति अधिक प्रतिरोधी हैं।
हम दिखाते हैं कि मॉडल प्रकार का गोपनीयता रिसाव पर महत्वपूर्ण प्रभाव पड़ता है।
विभेदक गोपनीयता के अंतर्गत जनरेटिव मॉडल के गोपनीयता जोखिमों की व्यापक समझ प्रदान करना।
हम डीपी जनरेटिव मॉडल की गोपनीयता मजबूती के मूल्यांकन के लिए एक मानकीकृत एमआईए पाइपलाइन प्रस्तुत करते हैं।
Limitations:
विशिष्ट प्रकार के GAN और प्रसार मॉडल के विश्लेषण की सामान्यीकरण क्षमता सीमित हो सकती है।
उपयोग किये गये डेटासेट और MIA पाइपलाइन की सामान्यता पर आगे अनुसंधान की आवश्यकता है।
जटिल वास्तविक विश्व हमले परिदृश्यों के लिए आगे के विश्लेषण की आवश्यकता है।
👍