Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Spiral of Silence in Large Language Model Agents

Created by
  • Haebom

저자

Mingze Zhong, Meng Fang, Zijing Shi, Yuxuan Huang, Shunfeng Zheng, Yali Du, Ling Chen, Jun Wang

개요

본 논문은 사회 심리학 이론인 침묵의 나선(SoS) 이론을 대규모 언어 모델(LLM) 집단에 적용하여, 인간 사회에서 발생하는 SoS와 유사한 역학이 LLM에서도 나타날 수 있는지 연구한다. 이를 위해 역사적 정보(History)와 페르소나 정보(Persona)의 유무에 따라 LLM의 의견 변화를 분석하는 평가 프레임워크를 제안한다. 실험 결과, 역사 정보와 페르소나 정보가 함께 제공될 때 SoS와 유사한 양상이 나타났으며, 역사 정보만 있을 때는 의견 고착 현상이, 페르소나 정보만 있을 때는 다양한 의견이 나타났지만 SoS와 같은 의견 통일 현상은 나타나지 않았다. 이 연구는 계산 사회학과 책임있는 AI 설계의 연관성을 강조하며, LLM 기반 시스템에서 나타날 수 있는 동조 현상에 대한 감시 및 완화의 필요성을 제시한다.

시사점, 한계점

시사점:
LLM 집단 내에서도 인간 사회의 SoS와 유사한 역학이 발생할 수 있음을 실험적으로 증명.
LLM의 의견 형성에 역사적 정보와 페르소나 정보가 미치는 영향 분석.
LLM 기반 시스템의 편향성 및 동조 현상에 대한 이해를 높이고, 이를 완화하기 위한 연구의 필요성을 제시.
계산 사회학과 책임있는 AI 설계 분야의 연결점을 제시.
한계점:
SoS 이론을 LLM에 적용하는 과정에서 인간 심리에 대한 고유한 설명이 직접적으로 적용되지 않음.
실험 환경이 제한적일 수 있으며, 현실 세계의 복잡한 상호작용을 완벽하게 반영하지 못할 수 있음.
특정 모델 및 설정에 국한된 결과일 수 있으며, 일반화에 주의가 필요함.
완화 방안에 대한 구체적인 제시 부족.
👍