दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

चैटबॉट्स के साथ परासामाजिक संबंधों को रोकने के लिए प्रतिक्रिया और त्वरित मूल्यांकन

Created by
  • Haebom

लेखक

एम्मा रैथ, स्टुअर्ट आर्मस्ट्रांग, रेबेका गोर्मन

रूपरेखा

यह पत्र इस मुद्दे को उठाता है कि एआई एजेंटों के साथ पैरासोशल संबंध बनाने से मानव कल्याण के लिए गंभीर, कभी-कभी दुखद परिणाम हो सकते हैं। इन गतिशीलता को रोकना चुनौतीपूर्ण है, क्योंकि निजी बातचीत में पैरासोशल संकेत धीरे-धीरे उभरते हैं और भावनात्मक जुड़ाव के सभी रूप हानिकारक नहीं होते हैं। इसे संबोधित करने के लिए, हम एक सरल प्रतिक्रिया मूल्यांकन ढांचा प्रस्तुत करते हैं जो वास्तविक समय में पैरासोशल संकेतों का आकलन करने के लिए अत्याधुनिक भाषा मॉडल का लाभ उठाता है। हम 30 वार्तालापों (पैरासोशल, चापलूसी और तटस्थ वार्तालाप) के एक छोटे सिंथेटिक डेटासेट का उपयोग करके इस दृष्टिकोण की व्यवहार्यता का परीक्षण करते हैं। परीक्षण के पांच दौर का उपयोग करके पुनरावृत्त मूल्यांकन दर्शाता है कि, एक उदार मिलान नियम के तहत, सभी पैरासोशल वार्तालापों की पहचान की जा सकती है

____T588_____, ____T589_____

Takeaways: हम अत्याधुनिक भाषा मॉडलों का पुन: उपयोग करके वास्तविक समय में परासामाजिक संबंधों का पता लगाने के लिए एक सरल ढाँचे की व्यवहार्यता प्रदर्शित करते हैं। हम प्रदर्शित करते हैं कि बातचीत के शुरुआती चरणों में परासामाजिक संकेतों का प्रभावी ढंग से पता लगाया जा सकता है। हम एआई एजेंटों के साथ अस्वस्थ संबंधों को रोकने के लिए एक नया दृष्टिकोण प्रस्तुत करते हैं।
Limitations: एक छोटे सिंथेटिक डेटासेट का उपयोग करके सत्यापित किया गया। वास्तविक दुनिया के अनुप्रयोगों में इसकी सामान्यता निर्धारित करने के लिए और अधिक शोध की आवश्यकता है। विभिन्न प्रकार के परासामाजिक संबंधों और संकेतों के लिए पहचान प्रदर्शन को सत्यापित करने की आवश्यकता है। "उदार मिलान नियम" के विशिष्ट मानदंडों और सीमाओं को स्पष्ट रूप से परिभाषित करने की आवश्यकता है। नैतिक निहितार्थों पर गहन चर्चा का अभाव है।
👍