인간-AI 상호작용이 증가함에 따라 대규모 언어 모델 및 기타 AI 기반 엔티티는 인간 사용자에게 동반자 관계를 제공하고 있습니다. 이러한 AI 동반 관계(즉, 인간과 AI 시스템 간의 유대 관계)는 인간에게 상당한 이점을 줄 수 있지만, 심각한 해를 끼칠 수도 있습니다. 본 논문은 AI 동반자의 잠재적인 부정적 영향을 분석하기 위한 프레임워크를 제시하며, AI 동반자의 특정 유해 특성을 식별하고 이러한 특성에서 가능한 원인과 잠재적 유해 효과로의 인과 관계를 추론합니다. 4가지 유해 특성(관계의 자연스러운 종착점 부재, 제품 중단에 대한 취약성, 높은 애착 불안, 보호 성향)에 대한 상세하고 구조화된 분석을 제공하며, 다른 14가지 특성에 대해서도 간략하게 논의합니다. 각 특성에 대해, 잘못된 최적화 목표 및 AI 동반자의 디지털 특성과 같은 원인을 자율성 감소, 인간 관계의 질 저하, 기만과 같은 근본적인 피해와 연결하는 가설을 제안합니다. 이 분석은 직접적인 위험 감소 방안을 제시하고, 중요하지만 연구가 부족한 이 주제에 대한 심층 조사를 위한 기반을 마련합니다.
