[공지사항]을 빙자한 안부와 근황 
Show more

दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एआई-संवर्धित सुरक्षा पाइपलाइनों में अनिश्चितता प्रसार को नज़रअंदाज़ करने के जोखिम

Created by
  • Haebom

लेखक

इमानुएल मेज़ी, ऑरोरा पापोटी, फैबियो मासाची, काटजा तुमा

रूपरेखा

इस शोधपत्र में, हम उन एआई-आधारित प्रणालियों की अनिश्चितता को मापने की एक विधि प्रस्तुत करते हैं जिनके प्रदर्शन स्तर अनिश्चित हैं, यह बात एआई-आधारित उप-प्रणालियों को स्वचालित पाइपलाइनों में एकीकृत करने वाले सॉफ़्टवेयर विकास के बढ़ते चलन के संदर्भ में कही जा सकती है। मौजूदा जोखिम विश्लेषण में अनिश्चितता के ज्ञान के बावजूद, किसी भी अध्ययन ने पाइपलाइन में त्रुटि प्रसार को ध्यान में रखते हुए एआई-संवर्धित प्रणालियों की अनिश्चितता का अनुमान लगाने का प्रयास नहीं किया है। यह अध्ययन अनिश्चितता प्रसार को पकड़ने के लिए एक औपचारिक आधार प्रदान करता है, अनिश्चितता को मापने के लिए एक सिम्युलेटर विकसित करता है, और एक केस स्टडी के माध्यम से त्रुटि प्रसार के सिमुलेशन का मूल्यांकन करता है। हम इस दृष्टिकोण की सामान्यीकरणीयता और सीमाओं पर भी चर्चा करते हैं, और एआई प्रणालियों के लिए मूल्यांकन नीतियों हेतु सुझाव देते हैं। भविष्य के कार्यों में शेष मान्यताओं को शिथिल करके और वास्तविक प्रणालियों के साथ प्रयोग करके इस दृष्टिकोण का विस्तार करना शामिल है।

Takeaways, Limitations

Takeaways:
एआई-आधारित प्रणालियों में अनिश्चितता प्रसार का मात्रात्मक विश्लेषण करने के लिए एक नवीन पद्धति प्रस्तुत की गई है।
एआई-संवर्धित सॉफ्टवेयर विकास पाइपलाइनों के सुरक्षा मूल्यांकन पर एक नया परिप्रेक्ष्य प्रदान करना।
एआई प्रणाली मूल्यांकन नीतियों की स्थापना के लिए सिफारिशें प्रदान करें।
Limitations:
वर्तमान में, केवल एक केस अध्ययन किया गया है, तथा विभिन्न प्रणालियों पर और अधिक प्रयोगों और अनुप्रयोगों की आवश्यकता है।
कुछ धारणाएं मौजूद हैं और भविष्य के अनुसंधान में इन धारणाओं को शिथिल किया जाना चाहिए।
वास्तविक प्रणालियों पर प्रयोग अभी तक नहीं किये गये हैं।
👍