Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Bases informatiques de la prise de décision en simulation sociale au LLM

Created by
  • Haebom

Auteur

Ji Ma

Contour

Cet article explore l'influence du caractère et du contexte sur le comportement des modèles linguistiques à grande échelle (MLH), utilisés comme agents décisionnels de type humain en sciences sociales et dans les domaines appliqués. Plus précisément, nous proposons et validons une méthode d'examen, de quantification et de modification des représentations internes des LHH à l'aide du jeu du dictateur, une expérience comportementale classique examinant l'équité et le comportement prosocial. Nous démontrons que l'extraction de « vecteurs de changement variables » (par exemple, de « masculin » à « féminin ») de l'état interne du LHH et la manipulation de ces vecteurs lors de l'inférence peuvent modifier significativement la relation entre les variables et les décisions du modèle. Cette approche fournit une méthode raisonnée pour étudier et réguler l'encodage et la conception des concepts sociaux dans les modèles basés sur Transformer, et présente Takeaways pour l'alignement, la correction des biais et la conception d'agents d'IA pour la simulation sociale dans des applications académiques et commerciales. Cela peut contribuer à améliorer la théorie et la mesure sociologiques.

Takeaways, Limitations_

Takeaways:
Nous présentons une nouvelle méthode pour analyser l'influence des concepts sociaux sur la prise de décision du modèle en examinant et en manipulant les représentations internes du LLM.
Fournir des stratégies pratiques pour éliminer les biais et concevoir de manière éthique les LLM.
Présentation d'une nouvelle approche de la simulation sociale et du développement d'agents d'IA.
Contribuer à l’avancement de la théorie sociologique et de la méthodologie de mesure.
Limitations:
Ces résultats de recherche ont été limités à un environnement expérimental spécifique, le jeu du dictateur. Des recherches supplémentaires sont nécessaires pour déterminer si les mêmes résultats peuvent être obtenus dans d'autres environnements ou situations expérimentales.
Une validation supplémentaire est nécessaire sur la généralité et l’applicabilité de l’extraction et de la manipulation des « vecteurs de changement variable ».
Il est possible que la complexité des représentations internes du LLM ne soit pas entièrement capturée.
Manque de prise en compte d’autres facteurs qui influencent la prise de décision du modèle.
👍