दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

एआई के संदर्भ में मानवीय पूर्वाग्रह: एआई द्वारा उत्पन्न कहे जाने वाले पाठ के प्रति मानवीय निर्णय की जाँच

Created by
  • Haebom

लेखक

टिफ़नी झू, इयान वीसबर्ग, केक्सुन झांग, विलियम यांग वांग

रूपरेखा

यह शोधपत्र इस बात की पड़ताल करता है कि क्या एआई-जनित पाठ में मानवीय विश्वास उन पूर्वाग्रहों से सीमित है जो सटीकता की चिंताओं से परे हैं। हमने तीन प्रयोगों: पाठ संपादन, समाचार लेख सारांश और प्रेरक लेखन, के माध्यम से यह जांचा कि मानव मूल्यांकनकर्ता लेबलयुक्त और लेबलरहित सामग्री पर कैसे प्रतिक्रिया देते हैं। हालाँकि ब्लाइंड परीक्षण इन दो प्रकार के पाठों के बीच अंतर करने में विफल रहे, हमने पाया कि मानव मूल्यांकनकर्ताओं ने "एआई-जनित" की तुलना में "मानव-जनित" लेबलयुक्त सामग्री को 30% से अधिक पसंद किया। जब लेबल जानबूझकर बदले गए तो भी यही पैटर्न देखा गया। एआई में इस मानवीय पूर्वाग्रह के व्यापक सामाजिक और संज्ञानात्मक निहितार्थ हैं, जिनमें एआई के प्रदर्शन को कम आंकना भी शामिल है। यह अध्ययन एआई के साथ बातचीत करते समय मानवीय निर्णय की सीमाओं को उजागर करता है और विशेष रूप से रचनात्मक क्षेत्रों में मानव-एआई सहयोग को बेहतर बनाने के लिए एक आधार प्रदान करता है।

Takeaways, Limitations

Takeaways: यह अध्ययन दर्शाता है कि AI द्वारा निर्मित सामग्री में मानवीय पूर्वाग्रह मौजूद हैं, और यह पूर्वाग्रह AI के वास्तविक प्रदर्शन की तुलना में लेबल से अधिक प्रभावित होता है। यह मानव-AI सहयोग को बेहतर बनाने के लिए अनुसंधान की आवश्यकता पर प्रकाश डालता है। यह AI की भूमिका और उपयोग के बारे में सामाजिक धारणाओं में बदलाव का भी सुझाव देता है, विशेष रूप से रचनात्मक क्षेत्र में।
Limitations: प्रतिभागियों की विशेषताओं (आयु, व्यवसाय, एआई का पूर्व ज्ञान, आदि) के आधार पर पूर्वाग्रहों में अंतर का विश्लेषण अपर्याप्त है। एआई-जनित सामग्री की व्यापक श्रेणी और मूल्यांकन विधियों की व्यापक श्रृंखला का उपयोग करते हुए, आगे और शोध की आवश्यकता है। इस अध्ययन में केवल लेबल के कारण पूर्वाग्रहों की जाँच की गई है, और हो सकता है कि इसमें मूल्यांकन परिणामों पर सामग्री में गुणात्मक अंतर के प्रभाव पर पर्याप्त रूप से विचार नहीं किया गया हो।
👍