दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एआई-आधारित प्रणालियों के लिए नैतिकता अधिवक्ता के रूप में मल्टी-एजेंट एलएलएम

Created by
  • Haebom

लेखक

अस्मा यामानी, मलक बस्लीमान, मोआताज़ अहमद

रूपरेखा

यह शोधपत्र एक ऐसे ढाँचे का प्रस्ताव करता है जो नैतिक रूप से संरेखित प्रणालियों के निर्माण हेतु आवश्यकताओं के प्रकटीकरण की प्रक्रिया में नैतिकता को एकीकृत करता है। मैन्युअल नैतिक आवश्यकताओं के प्रकटीकरण की चुनौतियों का समाधान करने के लिए, जिसमें कई हितधारकों से विविध इनपुट एकत्र करने की आवश्यकता होती है, हम एक बहु-एजेंट एलएलएम वातावरण में एक नैतिक अधिवक्ता एजेंट को शामिल करके नैतिक आवश्यकताओं का मसौदा तैयार करने हेतु एक ढाँचा प्रस्तुत करते हैं। यह एजेंट प्रणाली विवरणों के आधार पर नैतिक मुद्दों पर आलोचनाएँ और टिप्पणियाँ प्रदान करता है। हम प्रस्तावित ढाँचे का मूल्यांकन दो केस स्टडी के माध्यम से करते हैं, जो दर्शाता है कि यह शोधकर्ताओं द्वारा 30 मिनट के साक्षात्कार में पहचानी गई अधिकांश नैतिक आवश्यकताओं को समाहित करता है और कई अतिरिक्त प्रासंगिक आवश्यकताओं का सुझाव देता है। हालाँकि, यह नैतिक आवश्यकताओं के निर्माण में विश्वसनीयता के मुद्दों को उजागर करता है, और इस संवेदनशील क्षेत्र में मानवीय प्रतिक्रिया की आवश्यकता पर प्रकाश डालता है।

Takeaways, Limitations

Takeaways:
बहु-एजेंट एलएलएम का उपयोग करके नैतिक आवश्यकताओं को स्वचालित रूप से उत्पन्न करने के लिए एक रूपरेखा प्रस्तुत की गई है।
विभिन्न हितधारकों से राय एकत्र करने की समस्या को हल करने में योगदान देना, जो समय और संसाधन की कमी के कारण कठिन है।
नैतिक आवश्यकताओं को प्राप्त करने की प्रक्रिया में दक्षता बढ़ाने की संभावना का सुझाव देना।
नैतिक प्रणालियों को विकसित करने के लिए एक व्यावहारिक दृष्टिकोण का प्रस्ताव
Limitations:
नैतिक आवश्यकताओं को उत्पन्न करने में विश्वसनीयता के मुद्दों का अस्तित्व
संवेदनशील नैतिक क्षेत्रों में मानवीय प्रतिक्रिया आवश्यक है।
एलएलएम प्रदर्शन पर उच्च निर्भरता
विविध नैतिक संदर्भों में सामान्यीकरण का निर्धारण करने के लिए आगे अनुसंधान की आवश्यकता है।
👍