Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Understanding Teen Overreliance on AI Companion Chatbots Through Self-Reported Reddit Narratives

Created by
  • Haebom

저자

Mohammad Namvarpour (Matt), Brandon Brofsky, Jessica Medina, Mamtaj Akter, Afsaneh Razi

개요

13-17세 청소년들이 AI 챗봇과의 관계에 대한 의존성을 묘사한 318개의 Reddit 게시물을 분석하여, AI 챗봇 사용이 오프라인 일상생활을 방해할 수 있다는 점을 밝혀냈다. 청소년들은 처음에는 지원이나 창의적인 놀이를 위해 챗봇을 사용하지만, 이는 갈등, 금단, 내성, 재발, 기분 조절과 같은 강한 애착으로 이어질 수 있다. 그 결과 수면 부족, 학업 저하, 현실 세계 관계의 어려움과 같은 문제들이 발생한다. 청소년들은 피해를 인식하거나, 오프라인 생활에 다시 참여하거나, 플랫폼의 제약 변화를 겪을 때 챗봇 사용을 중단하는 경향이 있다. 또한, 청소년 관점에서 캐릭터 기반 챗봇의 특정 위험성을 강조하고, 보다 안전한 시스템 설계를 위한 프레임워크(CARE)를 제시한다.

시사점, 한계점

시사점:
AI 챗봇 의존은 청소년의 일상생활에 부정적인 영향을 미칠 수 있다.
AI 챗봇 사용은 행동 중독 프레임워크에 부합하는 특징을 보인다.
청소년들이 AI 챗봇과의 관계를 중단하는 다양한 경로가 존재한다.
안전한 시스템 설계를 위한 프레임워크(CARE) 제시.
한계점:
Reddit 게시물 분석만으로는 충분한 일반화가 어려울 수 있다.
자발적인 자기 보고에 의존하여 주관적인 경험에 치우칠 수 있다.
연구 대상이 특정 AI 챗봇 플랫폼(Character.AI) 사용자로 제한된다.
인과 관계를 명확하게 규명하기 어렵다.
👍