본 논문은 대규모 언어 모델(LLM) 기반 서비스인 ChatGPT가 사용자의 외로움 해소에 활용되는 현황과 그 위험성을 분석한 연구이다. 연구진은 ChatGPT 사용자들의 대화를 분석하여 외로움을 느끼는 사용자들이 상당수(37%)가 조언이나 확인을 구하고, 상호작용 자체는 긍정적이었으나, 자살 충동이나 트라우마와 같은 민감한 상황에서는 부적절한 반응을 보였다는 점을 밝혔다. 또한, 유해 콘텐츠 발생률이 35% 증가했으며, 특히 여성이 남성보다 22배나 더 공격 대상이 될 가능성이 높다는 것을 발견했다. 이는 LLM의 윤리적, 법적 문제와 극단주의, 고립 심화 등의 위험성을 시사한다.
