[공지사항]을 빙자한 안부와 근황 
Show more

दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

प्रॉम्प्ट इंजेक्शन 2.0: हाइब्रिड AI खतरे

Created by
  • Haebom

लेखक

जेरेमी मैकहुघ, क्रिस्टीना \V{एस}एक्रस्ट, जॉन सेफ़ालु

रूपरेखा

यह शोधपत्र "प्रॉम्प्ट इंजेक्शन 2.0" का एक व्यापक विश्लेषण प्रस्तुत करता है, जो प्रॉम्प्ट इंजेक्शन हमले का एक विकास है, जिसकी खोज सबसे पहले मई 2022 में प्रीएम्बल, इंक. ने की थी और ओपनएआई को रिपोर्ट की थी। विशेष रूप से, हम विश्लेषण करते हैं कि एजेंट-जैसी एआई प्रणालियों के उद्भव, जो स्वायत्त रूप से बहु-चरणीय कार्य करती हैं, ने प्रॉम्प्ट इंजेक्शन हमलों को एक हाइब्रिड खतरे में बदल दिया है जो मौजूदा सुरक्षा नियंत्रणों को मौजूदा साइबर सुरक्षा कमजोरियों (जैसे, XSS, CSRF) के साथ जोड़कर व्यवस्थित रूप से उन्हें दरकिनार कर देता है। एआई वर्म्स, मल्टी-एजेंट संक्रमण और हाइब्रिड साइबर-एआई हमलों सहित आधुनिक खतरों के मूल्यांकन के साथ, हम हाल के बेंचमार्क परिणामों को शामिल करते हैं जो दिखाते हैं कि मौजूदा वेब एप्लिकेशन फ़ायरवॉल, XSS फ़िल्टर, CSRF टोकन, आदि एआई-संवर्धित हमलों के खिलाफ विफल होते हैं। हम एक आर्किटेक्चरल समाधान भी प्रस्तुत करते हैं जो प्रॉम्प्ट आइसोलेशन, रनटाइम सुरक्षा, विशेषाधिकार पृथक्करण और नए खतरे का पता लगाने की क्षमताओं को जोड़ता है।

Takeaways, Limitations

Takeaways:
यह प्रॉम्प्ट इंजेक्शन 2.0 की गंभीरता और मौजूदा सुरक्षा प्रणालियों की सीमाओं को स्पष्ट रूप से प्रस्तुत करता है।
एआई एजेंट प्रणालियों के उद्भव के परिणामस्वरूप एक नए प्रकार के खतरे (हाइब्रिड साइबर-एआई हमले) की पहचान करना।
मौजूदा सुरक्षा प्रौद्योगिकियों की प्रभावशीलता और सीमाओं को अनुभवजन्य रूप से प्रस्तुत करें।
प्रॉम्प्ट इंजेक्शन 2.0 के विरुद्ध एक प्रभावी रक्षा वास्तुकला समाधान का प्रस्ताव।
Limitations:
प्रस्तावित वास्तुशिल्प समाधान के वास्तविक कार्यान्वयन और प्रदर्शन के विस्तृत विश्लेषण का अभाव।
विभिन्न एआई मॉडल और एजेंट प्रणालियों के सामान्यीकरण पर आगे अनुसंधान की आवश्यकता है।
नए त्वरित इंजेक्शन हमले के प्रकारों के लिए निरंतर निगरानी और प्रतिक्रिया रणनीतियों की आवश्यकता है।
👍