Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Mind the (Belief) Gap: Group Identity in the World of LLMs

Created by
  • Haebom

저자

Angana Borah, Marwa Houalla, Rada Mihalcea

개요

LLM의 사회적 편향과 신념 기반 행동이 다양한 작업에 영향을 미칠 수 있다는 점에 착안하여, 본 연구는 사회적 상호 작용과 선호도를 형성하는 데 중요한 역할을 하는 고전적인 집단 심리학 이론인 신념 일치를 시뮬레이션하는 다중 에이전트 프레임워크를 제시합니다. 연구 결과 LLM이 다양한 맥락에서 인간보다 증폭된 신념 일치를 보인다는 것을 확인했습니다. 이러한 행동의 영향을 미스인포메이션 확산 및 LLM 학습에 대해 조사한 결과, LLM의 신념 일치가 미스인포메이션 확산을 증가시키고 학습을 방해한다는 것을 발견했습니다. 이러한 부정적 영향을 완화하기 위해 접촉 가설, 정확성 넛지 및 글로벌 시민권 프레임워크에서 영감을 얻은 전략을 제안했으며, 그 결과 최적의 전략은 미스인포메이션 확산을 최대 37%까지 줄이고 학습을 11% 향상시켰습니다.

시사점, 한계점

시사점:
LLM은 인간보다 신념 일치 성향이 더 강하게 나타납니다.
LLM의 신념 일치는 미스인포메이션 확산을 증가시킬 수 있습니다.
LLM의 신념 일치는 학습을 저해할 수 있습니다.
접촉 가설, 정확성 넛지, 글로벌 시민권 프레임워크를 활용한 전략을 통해 부정적 영향을 완화할 수 있습니다.
한계점:
연구의 구체적인 한계점은 논문에서 명시적으로 언급되지 않았습니다. (논문 요약에 해당 내용 부재)
👍