[공지사항]을 빙자한 안부와 근황 
Show more

दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

ब्लैक बॉक्स की तैनाती - एलएलएम युग में कृत्रिम नैतिक एजेंटों के लिए कार्यात्मक मानदंड

Created by
  • Haebom

लेखक

मैथ्यू ई. ब्रॉफी

रूपरेखा

यह शोधपत्र तर्क देता है कि शक्तिशाली लेकिन अपारदर्शी वृहत्-स्तरीय भाषा मॉडल (एलएलएम) में प्रगति के कारण कृत्रिम नैतिक कारकों (एएमए) के मूल्यांकन हेतु प्रयुक्त दार्शनिक मानदंडों में मूलभूत संशोधन आवश्यक हो गया है। मौजूदा एलएलएम-पूर्व ढाँचे पारदर्शी वास्तुकला की धारणा पर आधारित हैं, लेकिन एलएलएम अपने संभाव्य आउटपुट और अपारदर्शी आंतरिक स्थितियों के कारण इस धारणा का पालन नहीं करते हैं। इसलिए, यह शोधपत्र तर्क देता है कि ये विसंगतियाँ मौजूदा नैतिक मानदंडों को एलएलएम के लिए व्यावहारिक रूप से अनुपयोगी बना देती हैं। प्रौद्योगिकी दर्शन के प्रमुख विषयों पर विचार करते हुए, हम एलएलएम-आधारित एआई नैतिक कारकों के मूल्यांकन हेतु दस कार्यात्मक मानदंड प्रस्तुत करते हैं: नैतिक संगति, संदर्भ संवेदनशीलता, मानक अखंडता, आध्यात्मिक जागरूकता, प्रणाली लचीलापन, विश्वसनीयता, परिवर्तनशीलता, आंशिक पारदर्शिता, कार्यात्मक स्वायत्तता और नैतिक कल्पना। "एसएमए-एलएलएस" (वृहत्-स्तरीय भाषा प्रणालियों के माध्यम से नैतिक कारकों का अनुकरण) पर लागू ये दिशानिर्देश, आने वाले वर्षों में एएमए को अधिक संरेखण और लाभकारी सामाजिक एकीकरण की ओर ले जाने के लिए हैं। हम स्वायत्त बसों (एपीबी) से जुड़े एक काल्पनिक परिदृश्य का उपयोग करके नैतिक रूप से महत्वपूर्ण संदर्भों में इन मानदंडों की व्यावहारिक प्रयोज्यता को प्रदर्शित करते हैं।

Takeaways, Limitations

Takeaways:
एलएलएम-आधारित एएमए मूल्यांकन के लिए नए कार्यात्मक मानदंड प्रस्तुत करना: नैतिक अनुरूपता, संदर्भ संवेदनशीलता, मानक अखंडता, आध्यात्मिक जागरूकता, प्रणाली लचीलापन, विश्वसनीयता, परिवर्तनीयता, आंशिक पारदर्शिता, कार्यात्मक स्वायत्तता और नैतिक कल्पना।
एक नया मूल्यांकन ढांचा प्रदान करना जो मौजूदा नैतिक मानकों की सीमाओं को पार करता है और एलएलएम की विशेषताओं को ध्यान में रखता है
एसएमए-एलएलएस नामक एक नई अवधारणा के माध्यम से एलएलएम-आधारित एएमए के सामाजिक एकीकरण की दिशा प्रस्तुत करना
आभासी परिदृश्यों के माध्यम से व्यावहारिक प्रयोज्यता का सत्यापन
Limitations:
प्रस्तुत 10 मानदंडों की परस्पर क्रिया और प्राथमिकता पर स्पष्ट चर्चा का अभाव।
व्यावहारिक एलएलएम अनुप्रयोग और मूल्यांकन के लिए विशिष्ट कार्यप्रणाली का अभाव
आभासी परिदृश्यों पर निर्भरता के लिए वास्तविक दुनिया की प्रयोज्यता के और अधिक सत्यापन की आवश्यकता होती है
आंशिक पारदर्शिता को परिभाषित करने और मापने के तरीके पर विशिष्ट स्पष्टीकरण का अभाव
👍