The Illusion of Empathy: How AI Chatbots Shape Conversation Perception
Created by
- Haebom
Category
Empty
저자
Tingting Liu, Salvatore Giorgi, Ankit Aich, Allison Lahnala, Brenda Curtis, Lyle Ungar, Joao Sedoc
개요
본 논문은 AI 챗봇의 공감 능력이 사용자의 대화 경험에 미치는 영향을 탐구합니다. 두 개의 데이터셋에서 얻은 155개의 대화를 분석하여, GPT 기반 챗봇은 대화 품질 면에서 더 높은 평가를 받았지만, 인간 대화 파트너보다 공감 능력이 낮게 인식된다는 것을 발견했습니다. GPT-4를 이용한 공감 평가는 사용자 평가와 일치하여 챗봇의 공감 능력이 인간보다 낮다는 인식을 강화했습니다. 결론적으로, 고품질의 인간-AI 상호작용을 위해서는 공감적인 언어를 단순히 삽입하는 것 이상으로, 사용자가 챗봇과의 대화에서 공감을 해석하고 경험하는 미묘한 방식을 다루는 것이 필요함을 시사합니다.
시사점, 한계점
•
시사점:
◦
챗봇의 공감 능력이 사용자의 대화 품질 평가에 중요한 영향을 미친다는 것을 확인했습니다.
◦
단순히 공감적인 언어를 사용하는 것만으로는 고품질의 인간-AI 상호작용을 달성할 수 없음을 보여줍니다.
◦
사용자의 공감 경험에 대한 심층적인 이해가 챗봇 개발에 필수적임을 강조합니다.
•
한계점:
◦
분석에 사용된 데이터셋의 규모가 상대적으로 작을 수 있습니다. (155개 대화)
◦
특정 유형의 챗봇(GPT 기반)에 대한 분석으로 일반화에 한계가 있을 수 있습니다.
◦
사용자의 공감 지각에 영향을 미치는 다른 요인들(예: 챗봇의 성격, 대화 주제)에 대한 고려가 부족할 수 있습니다.
