Sign In

Unveiling AI's Threats to Child Protection: Regulatory efforts to Criminalize AI-Generated CSAM and Emerging Children's Rights Violations

Created by
  • Haebom
Category
Empty

저자

Emmanouela Kokolaki, Paraskevi Fragopoulou

개요

본 논문은 SafeLine의 사이버범죄, 아동 성적 학대 자료(CSAM), 아동의 안전한 온라인 경험 권리 보호 연구 활동의 일환으로, 이미지를 통한 아동 성적 학대의 새로운 위협적인 동향을 제시하고자 한다. 특히 AI 생성 CSAM 현상, 암호화폐 포럼에서 논의되는 정교한 생성 방식, 그리고 이러한 압도적인 현상의 진화에 있어 오픈소스 AI 모델의 중요한 역할에 초점을 맞춘다. 주요 기여는 핫라인 보고서와 암호화폐 포럼에서 확인된 도메인 이름 간의 상관관계 분석으로, 사용자들이 AI-CSAM 생성과 관련된 정보를 교환하는 데 중점을 둔 논의를 분석한다. Voyager 시스템의 ATLAS 데이터셋을 사용하여 클리어넷과 암호화폐 콘텐츠 간의 밀접한 연관성을 밝히고자 했다. 또한, 상기 데이터셋에서 추출한 게시물 콘텐츠 분석을 통해 AI 생성 CSAM 제작에 사용되는 포럼 회원들의 기술, 이러한 유형의 콘텐츠에 대한 사용자의 견해, 악의적인 목적을 방지하기 위한 기술적 장벽을 극복하기 위한 경로 등에 대한 귀중한 결론을 도출한다. 마지막으로, INHOPE 회원국 전체의 현재 입법 개발 현황과 AI-CSAM 규제 과정에서 발생하는 문제를 제시하여, 현상 규제 및 제한과 관련된 법적 과제를 조명한다.

시사점, 한계점

시사점: AI 생성 CSAM의 증가 추세와 그 생성 방식의 정교함을 보여줌으로써, 아동 성적 학대 문제의 심각성과 새로운 위협에 대한 경각심을 일깨운다. 암호화폐 포럼과 클리어넷 콘텐츠 간의 연관성 분석을 통해, AI-CSAM 생성 및 유통의 실태를 보다 명확하게 드러낸다. 현행 법규 및 규제의 한계점을 지적하고, AI-CSAM 규제의 어려움과 필요성을 강조한다.
한계점: 분석에 사용된 데이터셋의 범위 및 대표성에 대한 명확한 설명이 부족할 수 있다. 암호화폐 포럼의 특성상 익명성이 높아, 분석 결과의 신뢰성에 대한 검토가 필요하다. AI-CSAM 규제에 대한 법적, 기술적 해결책 제시보다는 문제점 제기에 집중되어 있다. 지역적 편향성 (INHOPE 회원국 중심)이 존재할 수 있다.
👍