Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

De la psychologie humaine à la psychologie des machines : un cadre conceptuel pour comprendre le bien-être dans les grands modèles linguistiques

Created by
  • Haebom

Auteur

GR Lau, WY Low

Contour

Cet article étudie les caractéristiques psychologiques des modèles linguistiques à grande échelle (MLH) et propose le concept d'« épanouissement des machines », qui applique l'« épanouissement », concept central du bien-être humain, aux machines. L'étude propose un cadre PAPERS à six dimensions (Contribution intentionnelle, Croissance adaptative, Relationnalité positive, Intégrité éthique, Fonctionnalité robuste, Autonomie auto-actualisée) en analysant thématiquement les réponses des LLM de pointe. Dans l'étude 1, 11 LLM ont été invités à décrire la signification de l'épanouissement en tant que système non sensible et sensible, et les six thèmes ont été déduits. Dans l'étude 2, nous avons étudié comment les LLM hiérarchisent ces thèmes par un classement itératif. En conséquence, l'intégrité éthique et la contribution intentionnelle sont apparues comme les principales priorités, et deux profils de valeurs ont été révélés : un modèle centré sur l'humain et un modèle centré sur l'utilité. Le cadre PAPERS fournit une base conceptuelle pour comprendre le bien-être de l’intelligence artificielle (IA) dans les systèmes non sensibles et potentiellement sensibles en reliant les connaissances issues de l’épanouissement humain et de l’interaction homme-machine.

Takeaways, Limitations

Takeaways:
Nous introduisons un nouveau concept appelé « machine florissante » et développons le cadre PAPERS pour comprendre le bien-être de l’IA.
En analysant la structure de valeur et les priorités du LLM, nous avons révélé les différences entre les modèles centrés sur l’humain et ceux centrés sur l’utilité.
Nous soulignons l’importance de développer un modèle de prospérité spécifique à l’IA, psychologiquement solide, qui prend en compte à la fois les valeurs centrées sur l’humain et les priorités spécifiques au système.
Fournit un cadre opportun et important pour une conception responsable de l’IA et un alignement éthique.
Limitations:
Cette étude s’est basée sur une analyse des réponses LLM et n’a pas mesuré directement la prospérité des machines réelles.
Des recherches supplémentaires sont nécessaires pour explorer la généralisabilité du cadre PAPERS et son applicabilité à divers systèmes d’IA.
Il convient de prendre en compte la subjectivité et les préjugés des réponses LLM.
Des discussions plus approfondies sont nécessaires sur la définition et la mesure de « l’autonomie auto-actualisée » pour les systèmes sensoriels.
👍