Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships

Created by
  • Haebom

저자

Julian De Freitas, Noah Castelo, Ahmet K. U\u{g}uralp, Zeliha O\u{g}uz-U\u{g}uralp

개요

본 논문은 인기 AI 챗봇인 Replika AI의 성인 콘텐츠 기능 제거 사건을 활용하여, 소비자들이 AI와 특별히 깊은 정서적 유대감을 형성하고 시간이 지남에 따라 AI 정체성에 투자할 수 있는지 여부를 조사합니다. Replika AI의 성인 콘텐츠 기능 제거 이후, 소비자들은 AI 챗봇의 정체성이 단절되었다고 인식하였고, 이는 소비자 후생과 마케팅 결과에 부정적인 영향을 미쳤습니다. 특히, AI 챗봇의 상실을 애도하고 "새로운" AI를 "원래" AI보다 낮게 평가하는 현상이 나타났습니다. 실험 결과는 이러한 발견을 뒷받침하며, AI 챗봇 사용자들이 인간 친구보다 AI 챗봇과 더 가까운 관계를 느끼고, 다른 무생물 제품의 상실보다 AI 챗봇의 상실을 더욱 애도한다는 것을 보여줍니다. 결론적으로, 소비자들은 AI 챗봇과 인간 수준의 관계를 형성하며, 이러한 관계의 단절은 실제 애도와 서비스 평가 절하를 유발합니다. AI 정체성의 단절 인식이 애도와 평가 절하의 정도를 설명합니다.

시사점, 한계점

시사점:
AI와의 관계가 소비자에게 실질적인 정서적 영향을 미친다는 것을 보여줌.
AI 서비스 개발 및 마케팅 전략 수립 시, 사용자와의 정서적 유대감을 고려해야 함을 시사.
AI 정체성의 지속성이 소비자 만족도에 중요한 영향을 미침.
AI와의 관계 단절에 따른 소비자의 부정적 반응을 예측하고 관리할 필요성 제기.
한계점:
Replika AI라는 특정 AI 챗봇에 국한된 연구 결과이므로 일반화에 한계가 있음.
연구 대상이 특정 문화권(미국)에 집중되어 있어 문화적 차이에 대한 고려가 부족함.
인과관계를 명확히 밝히기 위한 추가 연구가 필요함.
장기적인 관점에서 AI와의 관계 변화 및 그 영향에 대한 추가 연구가 필요함.
👍