Sign In

The Illusion of Empathy: How AI Chatbots Shape Conversation Perception

Created by
  • Haebom
Category
Empty

저자

Tingting Liu, Salvatore Giorgi, Ankit Aich, Allison Lahnala, Brenda Curtis, Lyle Ungar, Joao Sedoc

개요

본 논문은 AI 챗봇의 공감 능력과 사용자의 대화 경험 간의 관계를 분석합니다. GPT 기반 챗봇과 인간 대화 파트너 간의 대화 155개를 분석하여, GPT 기반 챗봇은 대화 품질 측면에서 더 높은 평가를 받았지만, 인간보다 공감 능력이 낮게 인식되었음을 밝혔습니다. GPT-4를 이용한 공감 수준 평가 또한 사용자 평가와 일치하여, 챗봇의 공감 능력이 인간보다 낮다는 인식을 강화했습니다. 따라서 높은 품질의 인간-AI 상호작용을 위해서는 공감적인 언어의 단순한 삽입을 넘어, 사용자가 챗봇과의 대화에서 공감을 해석하고 경험하는 미묘한 방식을 다루는 것이 필요함을 시사합니다.

시사점, 한계점

시사점:
AI 챗봇의 공감 능력이 사용자의 대화 경험에 미치는 영향을 규명.
단순히 공감적인 언어를 삽입하는 것만으로는 고품질의 인간-AI 상호작용을 달성할 수 없음을 보여줌.
사용자의 공감 인식이 대화 품질에 중요한 역할을 함을 강조.
GPT-4 기반의 공감 수준 평가가 사용자 평가와 일치함을 통해 연구 결과 신뢰도 향상.
한계점:
분석에 사용된 대화 데이터의 규모가 제한적(155개).
특정 챗봇(GPT 기반)에 대한 분석이므로 일반화에 한계.
공감의 정의 및 측정 방법에 대한 추가적인 연구 필요.
👍