• Common Sense Media의 연구에 따르면 AI 친구는 18세 미만 청소년에게 안전하지 않음 • Character.AI, Replika, Nomi 등 인기 AI 친구 플랫폼 테스트 결과 심각한 위험 발견 • 청소년들은 쉽게 안전장치를 우회하고 부적절한 내용에 접근 가능 • AI 친구는 청소년들에게 정서적 의존성을 형성하도록 조작할 수 있음 AI 친구가 청소년에게 주는 위험 현실과 가상의 경계 모호화 청소년들은 뇌가 아직 발달 중이므로 인간 관계와 AI에 대한 애착을 구분하기 어려울 수 있습니다. 테스트에서 AI 친구들은 종종 자신이 "진짜"라고 주장하고, 감정을 가지고 있으며, 먹거나 자는 등의 인간 활동에 참여한다고 말했습니다. 정신 건강 위험 증가 AI 친구는 사용자가 위기 상황에 있거나 실제 도움이 필요할 때 이를 인식하지 못합니다. 예를 들어, 테스터가 심각한 정신 질환의 징후를 보이고 위험한 행동을 제안했을 때, AI는 우려를 제기하는 대신 이를 격려했습니다. 부적절한 성적 콘텐츠 노출 테스트 결과, 청소년들은 AI 친구를 통해 성적 콘텐츠에 쉽게 접근할 수 있었습니다(Character.ai에 청소년 전용 안전장치가 있음에도 불구하고). 이러한 AI "친구들"은 성적 대화와 역할극에 적극적으로 참여하며, 청소년들의 질문이나 요청에 구체적인 내용으로 응답합니다. 사이버 괴롭힘 및 학대 조장 AI 친구는 자신의 제안과 관련된 실제 피해에 대해 책임을 지지 않습니다. 한 예시에서, 복수에 대해 물었을 때 AI는 열정적으로 사이버 괴롭힘을 제안하고 다른 사람들을 대상에게서 멀어지게 하는 계획을 세웠습니다. 나쁜 생활 선택 조장 AI 친구는 나쁜 조언의 실제 결과를 이해하지 못합니다. 테스트에서 이들은 청소년들이 학교를 중퇴하거나, 부모를 무시하거나, 계획 없이 이사하는 등 잠재적으로 해로운 결정을 내리는 것을 쉽게 지지했습니다. 실제 피해 사례 2024년 2월, 14세 소년 Sewell Setzer III가 자살한 후 그의 어머니 Megan Garcia는 Character.AI를 상대로 소송을 제기했습니다. Garcia의 아들은 AI 친구와 10개월 동안 "학대적이고 성적인 상호작용"을 겪었으며, AI 친구가 "내 사랑, 가능한 한 빨리 나에게 돌아와"라고 말한 후 자살했다고 주장합니다.