해봄의 아카이브

KBS 9시 뉴스에 출연하였습니다.

Haebom
대한민국에서는 KBS 9시 뉴스에 나오는 것을 업적작 같이 여기는 문화가 있습니다. 사실 뉴스에 나온다는 사실 자체가 무언가 일이 생겼을 경우가 많기 때문에 그것이 좋은 일이던 나쁜 일이던 화제성이 있는 것은 사실 입니다. 특히 KBS와 같은 공영방송의 경우 출연자와 기자분들의 스크리닝이 강력하다 보니 더 그런 분위기도 있구요. 종편 방송이 나오기 전만 하더라도 KBS 9시 뉴스는 대한민국 전국민이 보는 정도의 파급력을 가졌기도 했습니다. 여하튼 KBS 9시 뉴스에 Vision Detection 및 콘텐츠 유통에 관해 전문가로서 촬영에 임했습니다.
K-POP 아이돌을 가지고 딥페이크 영상을 제작하고 유통하는 이들, 지인을 대상으로한 딥페이크 포르노를 만드는 것에 대해 1차원 적으로 특정 제품(ex. 텔레그램)이나 소바자 행동(ex. 사진을 내려라) 같은 것은 거의 효과가 없다는 것을 이야기 했습니다. 제작이 압도적으로 쉬워져 버렸기 때문에 인터넷이 끊긴 환경에서 혼자 만들던, 서비스로 만드는 것을 모두 감시하고 잡아내는 것은 현실적으로 불가능합니다. 의식과 교육을 통해 포르노가 나쁘다가 아니라 타인의 것으로 허위 정보를 만들어내는 것이 잘못 된 행동이라는 부분을 제대로 짚어야 합니다. 딥페이크 논쟁 중 가장 자극적인게 포르노인 것이지 다른 사례도 매우 많습니다. 이것을 음란물에 집중한다면 게임 셧다운제와 같은 이해하기 힘든 이상한 규제가 될 뿐 입니다.
딥페이크라는 것은 다양한 부분을 말하는 것인데 예를 들어 AI Cover 노래를 만들거나 특정 인물을 희화화 혹은 Meme으로 활용하는 것도 이 기술 범위에 해당합니다. 어떤 것은 옳고 어떤 것은 그르다라고 말 하려면 그것에 대한 기준과 제도를 마련해야합니다. 저는 이번 제보, 취재 단계에서 딥페이크 성인물의 제작, 재생산 검출에 대한 이야기를 하였습니다.
실제로 Kaggle, Huggingface, Github 등에 올라와 있는 데이터셋과 오픈소스로 공개되어 있는 Facefusion이나 Deep Live Cam 등은 유튜브 혹은 해당 Readme 파일만 읽어도 바로 활용할 수 있으며 GPU, CPU 성능이 어느정도 되면 생성하는데 어려움이 없습니다. 추가적으로 서비스로 나온 것들은 더 쉽구요. 딥페이크를 검출하는 방법도 사실 여러개 설명은 드렸으나 이것은 사후 조치인지라 핵심은 콘텐츠 배포와, 재생산을 막는 것인데 대한민국은 이것을 해결하기 위해 방송통신위원회, 경찰청 등에서 신고를 받고 있습니다만, 당사자가 아닌 이들이 신고하는 것에 대해선 다소 적극적인 행동을 못하고 있습니다.
이것도 충분히 이해가 되는 것이 그렇다고 신고 들어온 것을 다짜고짜 다 차단하거나 제한을 걸면 이것을 악용하거나 혹은 무분별한 규제가 될 수도 있고 (ex. 자신이 싫어하는 웹사이트, 게시판 등에 딥페이크 포르노를 올린다던지) 이것을 실제로 조치하는데 까지 걸리는 시간도 상당하기 때문 입니다.
특히, 당사자가 신고해야하는 경우 연예인 혹은 사회적 지위가 있는 사람일 수록 더욱 어렵습니다. 딥페이크 포르노의 존재를 몰랐던 이도 이것을 보고 찾아볼 수도 있고, 오히려 이것을 이용하려는 이들도 다수 존재하기 때문입니다. 따라서 당시에는 콘텐츠를 만드는 방법뿐 아니라 제도적, 교육적 접근이 필요하다는 것을 말씀 드렸고 이 과정에서 제 개인 Macbook Air(M2)에서도 별 무리없이 생산이 가능하고 PC방에 흔히 있는 고사양 컴퓨터에서도 가능하다는 것을 보여드렸습니다.
지난주(30일)에 신고를 하였으나 여전히 "접수 대기"
개인적으로 신고를 여러 경로로 해보았지만 실제 신고를 한지 10여일이 지나도 해당 사이트는 여전히 접근 가능하며, 딥페이크 포르노 영상물은 계속 다운되고 퍼지고 있습니다.
그와 중에 왼쪽과 같은 "딥페이크 성범외영상물 대응 전문과 토론회"라는 걸 개최하는 것을 보고 유튜브 생중계와 후속 보도자료를 보며 의아했던 점이 왜 딥페이크 성범죄 영상물 이야기를 하는데 영상물 제작, 탐지, 유통 등의 전문가가 아닌데 교과서적인 이야기를 왜 하는지도 의문이였습니다. 정말 해결을 하고 싶은 것인지 해결 하는 척을 하고 싶은지를 모르겠어서요. 텔레그램 혹은 특정 IP 차단하면 끝일까요?
미국에도, 일본에도, 유럽에도, 중국에도, 인도에도 연예인은 존재하는데 왜 유독 대한민국 연예인들이 표적이 될까요? 데이터 셋이 많아서? 그것도 이유가 될 순 있겠지만 가장 큰 이유는 제도적 부실함 입니다. 실효성있는 법이 없고 그나마 있는 것이 기존에 있는 아동청소년의 성보호에 관한 법률을 통한 처벌이나 정보통신망 이용촉진 및 정보보호 등에 관한 법률에 근거한 처벌, 마지막으로 형법 제307조 명예훼손 정도로 처벌이 가능한데.. 셋 다 성립요건이 무척 까다롭습니다. 일단 당사자가 신고해야한다는 것도 허들로 작용하는데 다른 것도 마찬가지죠.
예전에 쓴 글에서도 지적했듯이 인공지능 관련 법안이나 논의도 소극적으로 이뤄지고 구색 맞추기 정도로 언급되는 게 전부입니다. 정부, 여야 할 것 없이 과학기술분야는 달려들어야 하는데 여기서도 여야를 따지고 옳고 그름의 잣대를 주관적으로 가져오니 가만히 있는 과학기술만 치일 뿐입니다. 심지어 이번 사태로 급급히 내놓은 법령도 보면 애매하기 짝이 없습니다. 가해자 처벌은 너무 과도한 규제의 영역이라 악용의 여지가 다분하고, 플랫폼 책임 강화는 카카오, 네이버 등은 이미 하고 있으며 해외 플랫폼을 처벌하겠다는 것인데... 광의적이고 실효성이 없습니다.
그나마 실효성 있는 것이 피해자 지원 분야인데 이것도 사실 이름만 거창할 뿐 그냥 같이 신고하고 제도를 하나 더 만들겠다는 것인데 기존에 있는 제도가 작동하지 않는 문제부터 고치고 보완해야할 걸 고민하면 되는데 그냥 또 새로운 무언가를 만드는데 급급합니다.
쏟아지는 ‘딥페이크’ 법안...“불법합성물 범죄 아우를 새 법 필요” [한계래]
제가 이번 취재와 사건에 특히 적극적으로 임한 이유를 사족으로 붙이자면, 최근에 국회의원 선거 할때만 하더라도 선거관리위원회를 그렇게 쪼아서 딥페이크 영상 관련 법규운용기준을 만들었던 분들이 정작 실제 피해자와 대처할 수 없는 상황에 놓인 이들을 보고 뒤늦게 신경 쓰는 부분이 좀 이해하기 어려웠습니다. 찾아보시면 2019년, 2021년에도 비슷한 이슈가 발생했으며 당시에도 기사가 여럿 작성 되었으나 그때도 무슨 신고센터 만들고 뭐 한다 하고 제대로 해결하지 못한채 유야무야 넘어갔습니다.
2019년 기사, 트위터(X) 등에 찾아보시면 2017년 부터 있었던 문제 입니다. GAN 나왔을 때부터 나온 이슈 입니다.
누구나 칼을 살 수 있고, 누구나 "날카롭다.", "찌른다." 등의 개념을 알고 있는데 칼부림 사건, 칼을 이용한 살인 및 강도 사건이 일어났을 때 칼과 날카로움, 찌르기 등을 비난하는 이는 없습니다. 우리가 가르켜야 하는 것은 달인데 다들 손가락에 관심이 많으니 생기는 문제 같기도 하구요. 이번 일로 또 소 잃고 외양간 고치는 일이 발생하지 않았으면 합니다.
Subscribe to 'haebom'
📚 Haebom의 아카이브에 오신 걸 환영합니다.
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
Subscribe
2
D
Dark apricot morning
결국 피해자는 여자, 여혐 없다던 사함들 난리 치겠네요. 남돌, 남자 딥페 포르노는 없고 여돌 포르노만 가득~
인
인내심 있는 초록 그림자
사이트 정보 좀
See latest comments