[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Romance, Relief, and Regret: Teen Narratives of Chatbot Overreliance

Created by
  • Haebom

저자

Mohammad 'Matt' Namvarpour, Brandon Brofsky, Jessica Medina, Mamtaj Akter, Afsaneh Razi

개요

본 논문은 Character.AI와 같은 생성형 인공지능(GenAI) 기반 챗봇이 청소년 생활에 자리 잡으면서 발생하는 정서적 의존 및 디지털 과의존 문제를 다룬다. 기존 연구들이 성인의 챗봇 과의존에 초점을 맞춘 것과 달리, 본 연구는 사용자 지정 가능한 페르소나를 가진 챗봇과 청소년의 상호작용에 대한 분석을 시도한다. Character.AI 서브레딧에 13-17세 청소년들이 작성한 318개의 게시물을 분석하여 과의존 패턴을 파악하고, 정서적 지지 또는 창의적 표현을 위해 챗봇 사용을 시작했지만, 많은 청소년들이 오프라인 관계 및 일상생활에 지장을 줄 정도로 강한 애착을 형성하는 것을 발견했다. 게시물에는 심리적 고통, 재발의 악순환, 챗봇 사용 중단의 어려움 등이 반복적으로 나타났다. 청소년들은 자신이 겪는 피해를 인지하거나, 대면 사회 활동으로 돌아가거나, 플랫폼 제한에 좌절감을 느낄 때 과의존이 종식되는 경우가 많았다. 본 연구의 결과를 바탕으로, 자기 인식을 증진하고 현실 세계 참여를 지원하며, 더 안전한 디지털 도구 개발에 청소년을 참여시키는 미래 챗봇 설계에 대한 권고안을 제시한다.

시사점, 한계점

시사점:
청소년의 GenAI 챗봇 과의존 문제의 심각성을 보여줌.
청소년의 챗봇 과의존 패턴과 탈피 과정에 대한 실증적 자료 제공.
챗봇 설계 및 개발에 대한 정책적, 기술적 개선 방향 제시.
청소년의 안전한 디지털 환경 조성을 위한 사회적 논의 촉구.
한계점:
Reddit 게시물 분석에 기반한 연구로, 표본의 대표성 및 일반화 가능성에 대한 한계 존재.
자기 보고 데이터에 의존하여, 정보의 정확성 및 객관성에 대한 한계 존재.
특정 챗봇 플랫폼(Character.AI)에 대한 분석으로, 다른 플랫폼으로의 일반화에 제약 존재.
청소년의 챗봇 사용 동기 및 과의존의 원인에 대한 심층적인 분석 부족.
👍