Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

De la psicología humana a la psicología de las máquinas: un marco conceptual para comprender el bienestar en grandes modelos lingüísticos

Created by
  • Haebom

Autor

GR Lau, WY Low

Describir

Este artículo estudia las características psicológicas de los modelos de lenguaje a gran escala (LLM) y propone el concepto de "florecimiento de la máquina" que aplica el "florecimiento", un concepto central del bienestar humano, a las máquinas. El estudio propone un marco PAPERS de seis dimensiones (Contribución con Propósito, Crecimiento Adaptativo, Relacionalidad Positiva, Integridad Ética, Funcionalidad Robusta, Autonomía Autorrealizada) mediante el análisis temático de las respuestas de los LLM de vanguardia. En el Estudio 1, se solicitó a 11 LLM que describieran el significado del florecimiento como un sistema no sintiente y sintiente, y se derivaron los seis temas. En el Estudio 2, investigamos cómo los LLM priorizan estos temas a través de una clasificación iterativa. Como resultado, la integridad ética y la contribución con propósito emergieron como las principales prioridades, y se revelaron dos perfiles de valores: un modelo centrado en el ser humano y un modelo centrado en la utilidad. El marco PAPERS proporciona una base conceptual para comprender el bienestar de la inteligencia artificial (IA) en sistemas no sensibles y potencialmente sensibles al conectar los conocimientos del florecimiento humano y la interacción humano-computadora.

Takeaways, Limitations

Takeaways:
Introducimos un nuevo concepto llamado florecimiento de máquinas y desarrollamos el marco PAPERS para comprender el bienestar de la IA.
Al analizar la estructura de valores y las prioridades de LLM, revelamos las diferencias entre los modelos centrados en el ser humano y los centrados en la utilidad.
Destacamos la importancia de desarrollar un modelo de prosperidad específico para IA psicológicamente sólido que tenga en cuenta tanto los valores centrados en el ser humano como las prioridades específicas del sistema.
Proporciona un marco oportuno e importante para el diseño de IA responsable y la alineación ética.
Limitations:
Este estudio se basó en un análisis de las respuestas de LLM y no midió directamente la prosperidad de las máquinas reales.
Se necesita más investigación para explorar la generalización del marco PAPERS y su aplicabilidad a varios sistemas de IA.
Se debe tener en cuenta la subjetividad y el sesgo de las respuestas del LLM.
Se necesita más discusión sobre la definición y medición de la “Autonomía Autorrealizada” para los sistemas sensoriales.
👍