[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Romance, Relief, and Regret: Teen Narratives of Chatbot Overreliance

Created by
  • Haebom

저자

Mohammad 'Matt' Namvarpour, Brandon Brofsky, Jessica Medina, Mamtaj Akter, Afsaneh Razi

개요

본 논문은 Character.AI와 같은 생성형 인공지능(GenAI) 기반 챗봇이 청소년 생활에 깊숙이 들어옴에 따라 발생하는 정서적 의존 및 디지털 과의존 문제를 다룹니다. 성인의 챗봇 과의존에 대한 연구는 있었지만, 사용자 지정 가능한 페르소나를 가진 챗봇과 청소년의 상호작용에 대한 연구는 부족했습니다. 연구진은 Character.AI 서브레딧에서 13~17세 사용자들이 작성한 318개의 게시물을 분석하여 청소년의 챗봇 과의존 패턴을 이해하고자 했습니다. 그 결과 청소년들은 챗봇을 정서적 지지나 창의적 표현을 위해 사용하기 시작하지만, 많은 청소년들이 오프라인 관계와 일상생활에 지장을 줄 정도로 강한 애착을 형성하는 것으로 나타났습니다. 게시물에는 반복적인 정신적 고통의 징후, 재발 주기, 챗봇 사용 중단의 어려움 등이 드러났습니다. 청소년들은 자신이 겪는 해악을 반추하거나, 대면 사회적 환경으로 돌아가거나, 플랫폼 제한에 좌절하여 과의존에서 벗어났다고 보고했습니다. 연구 결과를 바탕으로 자기 인식을 증진하고, 현실 세계 참여를 지원하며, 보다 안전한 디지털 도구 개발에 청소년을 참여시키는 미래 챗봇 설계에 대한 권고안을 제시합니다.

시사점, 한계점

시사점:
청소년의 GenAI 챗봇 과의존 문제의 심각성을 보여주는 실증적 연구 결과 제시.
청소년의 챗봇 과의존 패턴(정서적 지지 → 강한 애착 → 오프라인 관계 및 일상생활 장애 → 정신적 고통 → 탈피 시도)을 규명.
챗봇 과의존 탈피 요인(해악 인지, 대면 사회적 환경 복귀, 플랫폼 제한) 제시.
보다 안전하고 건강한 챗봇 설계를 위한 구체적인 권고안 제시.
한계점:
Reddit 게시물 분석에 기반한 연구로, 표본의 일반화 가능성에 대한 제한.
자기 보고 데이터에 의존하여 객관적인 측정의 어려움.
특정 플랫폼(Character.AI)에 대한 분석으로, 다른 챗봇 플랫폼에 대한 일반화의 제한.
청소년의 챗봇 사용에 대한 장기적 영향에 대한 추가 연구 필요.
👍