Subscribe
테크 소식
Last modified
요약:
•
인공지능 기술의 발전으로 아동 관련 유해 콘텐츠가 급증하고 있음.
•
주요 출처는 메타의 플랫폼(페이스북, 인스타그램, 왓츠앱)임.
•
생성형 AI를 악용한 아동 유해 콘텐츠(AIG-CSAM)의 급증이 문제를 더욱 심화시키고 있음.
•
AI 도구의 악용을 막기 위해 AI 개발자, 플랫폼, 정부, 비영리단체, 법 집행기관, 부모 등의 공동 노력이 필요함.
아동 관련 유해 콘텐츠 문제는 어제오늘 일이 아니지만, 최근 인공지능 기술의 발전으로 그 심각성이 더욱 커지고 있습니다. 미국 실종 및 착취 아동 센터(NCMEC)에 따르면 2023년에만 3,600만 건의 의심 사례와 1억 개의 파일이 접수되었습니다. 특히 이 중 85%가 페이스북, 인스타그램, 왓츠앱 같은 메타의 플랫폼에서 발생했습니다. 이는 메타 플랫폼의 높은 접근성과 넓은 사용자 층을 악용한 결과입니다.
더욱 우려스러운 점은 누구나 쉽게 사용할 수 있는 인공지능 도구를 악용해 만들어진 아동 유해 콘텐츠(AIG-CSAM)가 급증하고 있다는 것입니다. 범죄자들은 인터넷에서 찾은 어린이들의 일상 사진이나 기존의 유해 콘텐츠를 조작해 딥페이크를 만들어내고 있습니다. 지난해 6월, FBI는 AI로 생성된 성 노출 협박 사건이 증가하고 있다고 경고했습니다.
이러한 AI 생성 아동 유해 콘텐츠의 급증으로 인해 실제 어린이가 피해를 입은 진짜 유해 콘텐츠를 구분해내기가 더욱 어려워지고 있습니다. NCMEC는 신고 양식에 "생성형 AI" 항목을 추가했지만, 많은 신고에서 이 정보가 빠져 있습니다. 이는 AI로 만든 것과 진짜를 구별하기 힘들기 때문입니다. AI로 만들어진 유해 콘텐츠도 여전히 불법이며, 이를 소지하는 것 또한 범죄입니다.
이 문제를 해결하기 위해서는 여러 조치가 필요합니다. 첫째, AI 개발자들은 아동 유해 콘텐츠 생성에 자사 도구가 악용되지 않도록 보다 엄격한 설계 방식을 도입해야 합니다. 예를 들어, 유해 콘텐츠 관련 데이터를 AI 모델의 학습 데이터에서 제거하고, AI 모델이 아동과 관련된 콘텐츠를 생성하지 못하도록 제한하는 것입니다. 또한, 개발자들은 AI 모델이 어떻게 악용될 수 있는지를 이해하고, 이를 방지하기 위한 스트레스 테스트를 진행해야 합니다.
둘째, 플랫폼은 디지털 지문 해싱, 머신러닝 알고리즘, AI 생성물 탐지 모델 등에 더 많은 투자를 해야 합니다. 이는 기존의 아동 유해 콘텐츠를 식별하고, 새로운 AI 생성물을 탐지하는 데 중요한 역할을 합니다. 메타와 같은 플랫폼은 AI 생성 콘텐츠를 감지하고 표시하는 시스템을 도입하고 있지만, 여전히 많은 부분에서 개선이 필요합니다. 예를 들어, 메타의 시스템은 주로 무해한 콘텐츠를 탐지하는 데 집중되어 있어, 진짜 아동 유해 콘텐츠를 찾는 데 어려움을 겪고 있습니다.
셋째, 정부는 REPORT법을 제정하는 등 노력을 기울이고 있지만, NCMEC 같은 기관에 급증하는 신고를 처리할 수 있는 충분한 예산을 지원해야 합니다. REPORT법은 모든 종류의 아동 유해 콘텐츠를 신고하도록 규정하고 있지만, AI 생성물의 급증으로 인해 NCMEC의 업무 부담이 증가하고 있습니다. 이를 해결하기 위해서는 정부가 NCMEC와 같은 기관에 충분한 자원을 제공하여 이들이 효과적으로 대응할 수 있도록 해야 합니다.
마지막으로, 부모님들도 아이들과 온라인 위험에 대해 소통하고, 가족사진 공개에 신중을 기해야 합니다. 부모들은 자녀들에게 온라인 상의 위험성에 대해 교육하고, 자녀들의 소셜 미디어 프로필을 비공개로 설정하는 등의 조치를 취해야 합니다. 또한, 부모들은 자신의 소셜 미디어 계정도 비공개로 설정하고, 자녀의 사진을 온라인에 올릴 때 신중을 기해야 합니다.
아동 유해 콘텐츠 문제는 우리 모두가 힘을 합쳐 대응해야 할 시급한 과제입니다. AI 기술이 빠르게 발전하는 만큼, 우리의 대응 노력도 그에 맞춰 진화해야 합니다. AI 개발자, 플랫폼, 정부, 비영리단체, 법 집행기관, 부모 등 모든 이해관계자가 협력하여 아동 유해 콘텐츠 문제를 해결하는 데 앞장서야 합니다. AI 기술이 우리 사회에 가져다주는 혜택을 최대한 활용하면서, 그로 인한 부작용을 최소화하기 위해 모두가 힘을 모아야 할 때입니다.
#아동보호 #인공지능 #생성형AI #아동유해콘텐츠 #사이버범죄
Subscribe to '오늘배움'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to '오늘배움'!
Join Slashpage and subscribe to '오늘배움'!
