यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है। यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है। पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।
यह शोधपत्र "ट्रोजनरोबोट" प्रस्तुत करता है, जो वास्तविक दुनिया के वातावरण में संचालित रोबोट हेरफेर नीतियों के विरुद्ध एक गुप्त और प्रभावी बैकडोर आक्रमण तकनीक है। जबकि पिछला बैकडोर आक्रमण अनुसंधान सिमुलेटरों तक ही सीमित रहा है, जिससे वास्तविक दुनिया के अनुप्रयोग में बाधा उत्पन्न हुई है, ट्रोजनरोबोट रोबोट नीति के दृश्य पहचान मॉड्यूल में एक बैकडोर मॉड्यूल डालने के लिए एक मॉड्यूल-विषाक्तीकरण तकनीक का उपयोग करता है, जिससे एक बैकडोर आक्रमण संभव होता है जो संपूर्ण रोबोट नीति को नियंत्रित करता है। विशेष रूप से, मूल कार्यान्वयन एक परिष्कृत विज़न-लैंग्वेज मॉडल (VLM) को बैकडोर मॉड्यूल के रूप में उपयोग करता है, जबकि वृहद विज़न-लैंग्वेज मॉडल (LVLM)-एक-बैकडोर प्रतिमान भौतिक वातावरण में सामान्यीकरण प्रदर्शन को बेहतर बनाने के लिए तीन प्रकार के उन्नत आक्रमण—क्रमपरिवर्तन, ठहराव और जानबूझकर किए गए आक्रमण—प्रस्तुत करता है। UR3e मैनिपुलेटर का उपयोग करते हुए व्यापक प्रयोग ट्रोजनरोबोट की प्रभावशीलता और गुप्तता को प्रदर्शित करते हैं।
Takeaways, Limitations
•
Takeaways:
◦
वास्तविक भौतिक वातावरण में संचालित रोबोटिक प्रणालियों पर बैकडोर हमलों के जोखिम को प्रदर्शित करता है।
◦
मॉड्यूल-विषाक्तता तकनीक का उपयोग करते हुए एक नया बैकडोर हमला तरीका प्रस्तुत किया गया है।
◦
LVLM-as-a-backdoor प्रतिमान के माध्यम से विभिन्न प्रकार के उन्नत बैकडोर हमलों की क्षमता को प्रदर्शित करता है।
◦
वास्तविक दुनिया की रोबोटिक प्रणालियों के लिए उन्नत सुरक्षा की आवश्यकता पर बल दिया गया।
•
Limitations:
◦
वर्तमान में प्रस्तावित आक्रमण तकनीक विशिष्ट रोबोट प्रणालियों और वीएलएम तक सीमित हो सकती है।
◦
विभिन्न वातावरणों और स्थितियों में हमले की सफलता दर पर और अधिक शोध की आवश्यकता है।
◦
पिछले दरवाजे से किये जाने वाले हमलों के विरुद्ध रक्षा तकनीकों पर और अधिक शोध की आवश्यकता है।
