Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Do LLMs Have Distinct and Consistent Personality? TRAIT: Personality Testset designed for LLMs with Psychometrics

Created by
  • Haebom
Category
Empty

저자

Seungbeen Lee, Seungwon Lim, Seungju Han, Giyeong Oh, Hyungjoo Chae, Jiwan Chung, Minju Kim, Beong-woo Kwak, Yeonsoo Lee, Dongha Lee, Jinyoung Yeo, Youngjae Yu

개요

본 논문은 대규모 언어 모델(LLM)의 성격을 분석하기 위한 새로운 벤치마크인 TRAIT를 제시합니다. TRAIT는 Big Five Inventory (BFI)와 Short Dark Triad (SD-3) 두 가지 심리 측정 검사를 기반으로 ATOMIC-10X 지식 그래프를 활용하여 8,000개의 다중 선택 질문으로 구성됩니다. 기존 LLM 성격 검사보다 신뢰성 및 타당성이 높으며, 내용 타당성, 내적 타당성, 거부율, 신뢰성 네 가지 측면에서 최고 점수를 달성했습니다. TRAIT를 사용한 실험 결과, LLM은 훈련 데이터의 영향을 크게 받는 독특하고 일관된 성격을 나타내며, 현재 프롬프팅 기법은 특정 성격 특성(예: 높은 반사회성 또는 낮은 성실성)을 유도하는 데 효과적이지 않다는 것을 밝혔습니다.

시사점, 한계점

시사점:
LLM의 성격 분석을 위한 신뢰도 및 타당도가 높은 새로운 벤치마크 TRAIT 제시
LLM의 성격이 훈련 데이터에 크게 영향을 받는다는 사실 발견
특정 성격 특성 유도에 있어 현재 프롬프팅 기법의 한계점 제시
향후 LLM 성격 연구 및 프롬프팅 기법 개선에 대한 방향 제시
한계점:
TRAIT 벤치마크의 일반화 가능성에 대한 추가 연구 필요
특정 성격 특성 유도의 어려움에 대한 원인 규명 및 해결 방안 모색 필요
LLM의 성격과 실제 행동 간의 상관관계에 대한 추가 연구 필요
👍