OpenFake: An Open Dataset and Platform Toward Large-Scale Deepfake Detection
Created by
Haebom
저자
Victor Livernoche, Akshatha Arodi, Andreea Musulan, Zachary Yang, Adam Salvail, Gaetan Marceau Caron, Jean-Fran\c{c}ois Godbout, Reihaneh Rabbany
개요
본 논문은 최첨단 AI 기술을 사용하여 생성된 합성 미디어인 딥페이크가 특히 정치적으로 민감한 맥락에서 허위 정보의 확산을 심화시키는 문제를 다룹니다. 기존 딥페이크 탐지 데이터셋은 생성 방법이 구식이거나 현실성이 낮거나 단일 얼굴 이미지에 의존하는 등의 한계로 인해 일반적인 합성 이미지 탐지에 효과적이지 못합니다. 본 연구는 소셜 미디어 게시물을 분석하여 딥페이크가 허위 정보를 전파하는 다양한 방식을 파악하고, 인간 인식 연구를 통해 최근 개발된 독점 모델이 실제 이미지와 구별하기 어려운 합성 이미지를 생성함을 보여줍니다. 따라서 본 논문에서는 최신 생성 모델에 대한 탐지 성능을 벤치마킹하기 위해 특별히 제작된 포괄적인 정치 중심 데이터셋을 제시합니다. 이 데이터셋은 설명 캡션이 포함된 3백만 개의 실제 이미지와 다양한 독점 및 오픈소스 모델을 사용하여 생성된 96만 3천 개의 고품질 합성 이미지로 구성됩니다. 지속적으로 진화하는 생성 기술을 인식하여 참가자들이 어려운 합성 이미지를 생성하고 제출하도록 유도하는 혁신적인 크라우드소싱 대립 플랫폼을 도입합니다. 이 지속적인 커뮤니티 중심의 이니셔티브는 딥페이크 탐지 방법이 견고하고 적응력이 뛰어나도록 하여 정교한 허위 정보 위협으로부터 공개적인 담론을 사전에 보호합니다.