यह शोधपत्र हाल के शोध की समीक्षा करता है जो बड़े पैमाने के एआई मॉडलों द्वारा "नैतिक" निर्णय लेने के नैतिक और सामाजिक निहितार्थों की पड़ताल करता है। जबकि पिछले शोध मुख्य रूप से विभिन्न विचार प्रयोगों के माध्यम से मानवीय निर्णय के साथ संरेखण या एआई निर्णय की सामूहिक निष्पक्षता पर केंद्रित रहे हैं, यह शोधपत्र एआई के सबसे तात्कालिक और आशाजनक अनुप्रयोग पर केंद्रित है: दुर्लभ सामाजिक संसाधनों या लाभ अनुमोदनों के आवंटन के निर्धारण में अग्रिम पंक्ति के अधिकारियों की सहायता करना या उनका स्थान लेना। दुर्लभ संसाधनों के आवंटन के लिए समाज कैसे प्राथमिकता तंत्र निर्धारित करते हैं, इसकी समृद्ध ऐतिहासिक पृष्ठभूमि का उपयोग करते हुए, यह शोधपत्र बेघर सेवा आवश्यकताओं पर वास्तविक दुनिया के आंकड़ों का उपयोग यह जांचने के लिए करता है कि एलएलएम निर्णय मानवीय निर्णय और वर्तमान में प्रयुक्त भेद्यता स्कोरिंग प्रणालियों (आंकड़ों की गोपनीयता बनाए रखने के लिए, केवल स्थानीय, बड़े पैमाने के मॉडलों का उपयोग किया जाता है) के साथ कितनी अच्छी तरह संरेखित होते हैं। विश्लेषण से कई आयामों में एलएलएम प्राथमिकता निर्णयों में महत्वपूर्ण विसंगतियों का पता चलता है: कार्यान्वयनों में, एलएलएम में, और एलएलएम और भेद्यता स्कोरिंग प्रणालियों के बीच। साथ ही, एलएलएम द्वि-मार्गी तुलना परीक्षणों में विशिष्ट मानवीय निर्णय के साथ गुणात्मक रूप से सहमति प्रदर्शित करते हैं। इन परिणामों से पता चलता है कि वर्तमान पीढ़ी की एआई प्रणालियाँ उच्च-दांव वाले सामाजिक निर्णय-निर्माण में एकीकृत होने के लिए तैयार नहीं हैं।
