Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLMs are Introvert

Created by
  • Haebom

저자

Litian Zhang, Xiaoming Zhang, Bingyu Yan, Ziyi Zhou, Bo Zhang, Zhenyu Guan, Xi Zhang, Chaozhuo Li

개요

본 논문은 소셜 미디어와 생성형 AI의 발전으로 인한 정보 확산의 변화와 그에 따른 가짜 정보 확산 문제를 다룹니다. 기존의 SIR 모델과 같은 전통적인 방법론은 온라인 상호작용의 복잡성을 충분히 포착하지 못하며, attention mechanism이나 graph neural network와 같은 고급 방법론은 사용자 심리 및 행동 역학을 간과하는 한계가 있습니다. 본 논문은 사용자의 태도, 감정, 반응을 포착하는 LLM 기반 시뮬레이션 환경을 제시합니다. 초기 실험에서 LLM이 생성한 행동과 실제 인간의 역학 사이에 상당한 차이가 발견되었고, 특히 태도 감지와 심리적 현실성 측면에서 차이가 컸습니다. 이러한 문제를 해결하기 위해, 사회정보처리이론(SIP) 기반 사고연쇄(CoT) 메커니즘과 감정 유도 메모리를 강화하여 사회적 단서 해석, 목표 개인화 및 피드백 평가를 개선하는 SIP-CoT 메커니즘을 제안합니다. 실험 결과 SIP-CoT를 강화한 LLM 에이전트가 사회 정보를 더 효과적으로 처리하고, 실제 인간 상호 작용에 더 가까운 행동, 태도 및 감정을 보여주는 것을 확인했습니다. 본 연구는 현재 LLM 기반 전파 시뮬레이션의 중요한 한계를 강조하고, SIP-CoT와 감정 메모리 통합을 통해 LLM 에이전트의 사회적 지능과 현실성을 크게 향상시키는 방법을 보여줍니다.

시사점, 한계점

시사점:
LLM 기반 시뮬레이션을 통해 소셜 미디어 상의 정보 전파 과정을 더욱 현실적으로 모델링할 수 있는 가능성을 제시.
사회정보처리이론(SIP)과 감정 유도 메모리를 결합한 SIP-CoT 메커니즘이 LLM 에이전트의 사회적 지능 향상에 효과적임을 실험적으로 증명.
가짜 정보 확산 방지 및 효과적인 정보 통제 전략 개발에 기여할 수 있는 새로운 연구 방향 제시.
한계점:
초기 LLM 기반 시뮬레이션 결과, LLM이 생성한 행동과 실제 인간의 행동 간에 상당한 차이가 존재. 특히 태도 감지와 심리적 현실성에서 차이가 큼.
SIP-CoT 메커니즘의 성능 향상에도 불구하고, 여전히 실제 인간의 복잡한 심리 및 행동을 완벽하게 반영하지는 못할 가능성 존재.
LLM의 학습 데이터 편향이 시뮬레이션 결과에 영향을 미칠 수 있음. 더욱 다양하고 균형 잡힌 데이터를 사용한 추가 연구가 필요.
👍