Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Decomposing Theory of Mind: How Emotional Processing Mediates ToM Abilities in LLMs

Created by
  • Haebom
Category
Empty

저자

Ivan Chulo, Ananya Joshi

개요

본 논문은 활성화 조작 기법을 사용하여 언어 모델의 마음 이론(Theory of Mind, ToM) 능력을 향상시킨 기존 연구의 후속 연구로서, 활성화 조작이 언어 모델 내부에서 어떤 변화를 일으키는지 분석한다. Gemma-3-4B 모델에 Contrastive Activation Addition (CAA) 기법을 적용하여 BigToM forward belief 시나리오에 대한 성능을 평가한 결과, 믿음 귀속 과제 정확도가 향상되었다. 또한, 감정 관련 활성화는 증가하고 분석적 사고 관련 활성화는 감소하는 것을 확인하여, 언어 모델의 ToM 능력은 분석적 추론보다는 감정적 이해에 의해 매개됨을 밝혀냈다.

시사점, 한계점

시사점:
언어 모델의 ToM 능력 향상에 감정적 이해가 중요한 역할을 함을 시사한다.
CAA 활성화 조작 기법을 통해 언어 모델의 특정 인지 과정을 조작할 수 있음을 보여준다.
언어 모델의 내부 메커니즘을 분석하기 위한 새로운 접근 방식을 제시한다.
한계점:
Gemma-3-4B 모델에 대한 실험 결과이므로 다른 모델에 일반화하기 어렵다.
45개의 인지 행동에 대한 선형 프로브를 사용한 분석의 한계가 있을 수 있다.
분석된 활성화의 정확한 인과 관계에 대한 추가 연구가 필요하다.
👍