दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एमसीपी-गार्ड: बड़े भाषा मॉडल अनुप्रयोगों में मॉडल संदर्भ प्रोटोकॉल अखंडता के लिए एक रक्षा ढांचा

Created by
  • Haebom

लेखक

वेनपेंग जिंग, झोंगहाओ क्यूई, युपेंग किन, यिलिन ली, कैनी चांग, ​​जियाहुई यू, चांगटिंग लिन, झेनझेन झी, मेंग हान

रूपरेखा

यह शोधपत्र MCP-Guard, एक स्तरित सुरक्षा संरचना, का प्रस्ताव करता है जो बड़े पैमाने के भाषा मॉडल (LLM) को बाहरी उपकरणों के साथ एकीकृत करते समय उत्पन्न होने वाली सुरक्षा कमज़ोरियों (जैसे त्वरित इंजेक्शन और डेटा लीक) को दूर करने के लिए है। MCP-Guard, हल्के स्थैतिक स्कैनिंग, एक गहन तंत्रिका नेटवर्क डिटेक्टर और एक E5-आधारित फ़ाइन-ट्यून्ड मॉडल का उपयोग करते हुए, तीन-चरणीय पहचान पाइपलाइन के माध्यम से दक्षता और सटीकता को संतुलित करता है। अंत में, एक हल्का LLM मध्यस्थ अंतिम निर्णय लेता है और गलत सकारात्मक परिणामों को न्यूनतम करता है। इसके अलावा, हम MCP-AttackBench, एक व्यापक बेंचमार्क प्रस्तुत करते हैं जिसमें 70,000 से अधिक नमूने शामिल हैं जो विभिन्न प्रकार के वास्तविक-विश्व आक्रमण वेक्टरों का अनुकरण करते हैं।

Takeaways, Limitations

Takeaways:
एलएलएम-टूल इंटरैक्शन (एमसीपी-गार्ड) में सुरक्षा कमजोरियों को दूर करने के लिए एक नया समाधान
तीन-चरणीय पहचान पाइपलाइन के प्रभावी संचालन का सत्यापन, जिसमें दक्षता और सटीकता दोनों को ध्यान में रखा जाता है।
एक व्यापक बेंचमार्क (MCP-AttackBench) प्रदान करके भविष्य के अनुसंधान में योगदान देता है जिसमें विभिन्न आक्रमण वेक्टर शामिल होते हैं।
उच्च सटीकता (96.01%) के साथ एक प्रतिकूल शीघ्र पहचान मॉडल का विकास।
Limitations:
वास्तविक दुनिया के अनुप्रयोगों में एमसीपी-गार्ड के प्रदर्शन और स्थिरता को निर्धारित करने के लिए अतिरिक्त शोध की आवश्यकता है।
एमसीपी-अटैकबेंच की व्यापकता के बावजूद, इसकी कोई गारंटी नहीं है कि यह सभी संभावित आक्रमणों को पूरी तरह से कवर कर लेगा।
E5-आधारित मॉडलों के विशिष्ट प्रदर्शन के विस्तृत विवरण का अभाव (उदाहरण के लिए, प्रयुक्त E5 मॉडल का प्रकार, हाइपरपैरामीटर्स, आदि)
एलएलएम मध्यस्थों के डिजाइन और प्रदर्शन पर विस्तृत जानकारी का अभाव।
👍