यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है। यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है। पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।
PASTA (कृत्रिम बुद्धिमत्ता की व्याख्या हेतु अवधारणात्मक आकलन प्रणाली) कंप्यूटर विज़न में व्याख्या योग्य AI (XAI) तकनीकों के मूल्यांकन हेतु एक नवीन मानव-केंद्रित ढाँचा है। हम PASTA-डेटासेट प्रस्तुत करते हैं, जो एक व्यापक बेंचमार्क है जिसमें विभिन्न मॉडल और व्याख्या विधियाँ (प्रमुखता-आधारित और अवधारणा-आधारित) शामिल हैं। यह डेटासेट मानवीय निर्णय के आधार पर XAI तकनीकों का सुदृढ़ और तुलनीय विश्लेषण संभव बनाता है। इसके अलावा, हम एक स्वचालित, डेटा-संचालित बेंचमार्क (PASTA-स्कोर) प्रस्तुत करते हैं जो PASTA-डेटासेट का उपयोग करके मानवीय प्राथमिकताओं का पूर्वानुमान लगाता है, और मानवीय धारणा के अनुरूप मापनीय, विश्वसनीय और सुसंगत आकलन प्रदान करता है। हम मौजूदा मॉडलों की व्याख्या की जाँच करने और अधिक मानव-व्याख्या योग्य XAI विधियों के निर्माण के लिए इस पद्धति को लागू करने का प्रस्ताव रखते हैं। विशेष रूप से, हम विभिन्न तौर-तरीकों में व्याख्याओं की तुलना को सक्षम बनाकर खुद को मौजूदा शोध से अलग करते हैं।
Takeaways, Limitations
•
Takeaways:
◦
बड़े पैमाने पर, विविध XAI तकनीकों के तुलनात्मक विश्लेषण के लिए एक बेंचमार्क डेटासेट (PASTA-डेटासेट) प्रदान करना।
◦
एक स्वचालित मूल्यांकन सूचकांक (PASTA-स्कोर) की प्रस्तुति जो मानवीय धारणा से मेल खाती है
◦
विभिन्न तौर-तरीकों में XAI विवरणों की तुलना संभव है।
◦
XAI विधियों की व्याख्यात्मकता में सुधार लाने और नई XAI विधियों को विकसित करने में योगदान देना
•
Limitations:
◦
PASTA डेटासेट की सामान्यता निर्धारित करने के लिए आगे अनुसंधान की आवश्यकता है।
◦
PASTA-स्कोर की सटीकता और विश्वसनीयता के आगे सत्यापन की आवश्यकता है।
◦
विशिष्ट कंप्यूटर विज़न डोमेन तक सीमित मूल्यांकन विधियों की सीमाएँ
◦
अन्य AI क्षेत्रों (प्राकृतिक भाषा प्रसंस्करण, सुदृढीकरण सीखना, आदि) पर इसकी प्रयोज्यता पर और अधिक शोध की आवश्यकता है।
