दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

होरस: अनिश्चितता के तहत अविश्वसनीय प्रतिनिधिमंडल के लिए एक प्रोटोकॉल

Created by
  • Haebom

लेखक

डेविड शि, केविन जू

रूपरेखा

यह पत्र गतिशील और कम-विश्वास वाले वातावरण में स्वायत्त AI एजेंटों की शुद्धता सुनिश्चित करने के लिए एक प्रोटोकॉल प्रस्तावित करता है। एजेंट उप-एजेंटों को कार्य सौंपता है और एक पुनरावर्ती सत्यापन खेल के माध्यम से कार्यों की शुद्धता को सुरक्षित करता है जिसमें एजेंट कार्यों की शुद्धता को सत्यापित करने के लिए एक बांड पर दांव लगाता है। कार्यों को इरादों के रूप में प्रकाशित किया जाता है, और सॉल्वर कार्यों को करने के लिए प्रतिस्पर्धा करते हैं। चयनित सॉल्वर जोखिम में कार्य करता है, और शुद्धता को सत्यापनकर्ता द्वारा पूर्वव्यापी रूप से सत्यापित किया जाता है। कोई भी चुनौती देने वाला परिणामों को चुनौती देकर सत्यापन प्रक्रिया शुरू कर सकता है, और गलत एजेंटों को दंडित किया जाता है, जबकि सही प्रतिवाद प्रस्तुत करने वाले एजेंटों को पुरस्कृत किया जाता है। एक ऊपर की ओर प्रक्षेपवक्र है जिसमें गलत सत्यापनकर्ताओं को भी दंडित किया जाता है। जब सॉल्वर, चुनौती देने वाले और सत्यापनकर्ताओं के प्रोत्साहन संरेखित होते हैं, तो मिथ्याकरण की स्थिति शुद्धता को नैश संतुलन बनाती है।

Takeaways, Limitations

Takeaways:
कम-विश्वास वाले वातावरण में स्वायत्त AI एजेंटों की सटीकता सुनिश्चित करने के लिए एक नया दृष्टिकोण
पुनरावर्ती सत्यापन खेल के माध्यम से वितरित सत्यापन प्रणाली के निर्माण की संभावना प्रस्तुत करना
प्रोत्साहन डिजाइन के माध्यम से नैश संतुलन में सटीकता लाने के लिए एक तंत्र का प्रस्ताव
Limitations:
प्रस्तावित प्रोटोकॉल के वास्तविक कार्यान्वयन और प्रदर्शन मूल्यांकन की समीक्षा की आवश्यकता
प्रोत्साहन डिजाइन के अनुकूलन और विभिन्न वातावरणों के लिए अनुकूलनशीलता पर अनुसंधान की आवश्यकता है।
सत्यापन प्रक्रिया की जटिलता और लागत के विश्लेषण की आवश्यकता
दुर्भावनापूर्ण तत्वों के प्रति प्रतिरोध पर और अधिक शोध की आवश्यकता है
👍