Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Base computacional de la toma de decisiones en simulación social en LLM

Created by
  • Haebom

Autor

Ji Ma

Describir

Este artículo explora la influencia del carácter y el contexto en el comportamiento de los modelos lingüísticos a gran escala (LLM), utilizados como agentes de toma de decisiones de tipo humano en ciencias sociales y campos aplicados. En concreto, proponemos y validamos un método para examinar, cuantificar y modificar las representaciones internas de los LLM mediante el Juego del Dictador, un experimento conductual clásico que examina la equidad y el comportamiento prosocial. Demostramos que la extracción de vectores de cambio de variables (p. ej., de "masculino" a "femenino") del estado interno del LLM y su manipulación durante la inferencia pueden alterar significativamente la relación de las variables con las decisiones del modelo. Este enfoque proporciona un método con principios para estudiar y regular cómo se pueden codificar y diseñar los conceptos sociales en modelos basados ​​en Transformers, y presenta Takeaways para la alineación, la desviación y el diseño de agentes de IA para la simulación social en aplicaciones académicas y comerciales. Esto puede contribuir a mejorar la teoría y la medición sociológicas.

Takeaways, Limitations

Takeaways:
Presentamos un método novedoso para analizar la influencia de los conceptos sociales en la toma de decisiones del modelo examinando y manipulando las representaciones internas de LLM.
Proporcionar estrategias prácticas para eliminar sesgos y diseñar éticamente los LLM.
Presentamos un enfoque novedoso para la simulación social y el desarrollo de agentes de IA.
Contribuir al avance de la teoría sociológica y la metodología de medición.
Limitations:
Estos resultados de investigación se limitaron a un entorno experimental específico: el Juego del Dictador. Se requiere más investigación para determinar si se pueden obtener los mismos resultados en otros entornos o situaciones experimentales.
Se necesita una mayor validación de la generalidad y aplicabilidad de la extracción y manipulación de "vectores de cambio variable".
Existe la posibilidad de que no se capture completamente la complejidad de las representaciones internas del LLM.
Falta de consideración de otros factores que influyen en la toma de decisiones del modelo.
👍