본 논문은 딥페이크, 즉 AI 기술을 사용하여 생성된 합성 미디어가 정보의 진실성에 미치는 위협에 주목하며, 특히 정치적으로 민감한 맥락에서 그 위험성이 커지고 있음을 지적한다. 현대 생성 모델의 사실성이 증가함에 따라, 인간의 인지 능력을 넘어선 딥페이크가 등장하고 있다. 기존 딥페이크 탐지 벤치마크가 구식 생성기나 좁은 범위의 데이터셋에 의존하는 한계를 극복하기 위해, 본 논문은 고도의 현실성을 가진 최신 생성 모델에 대한 벤치마킹을 위해 특별히 제작된 대규모 정치적 데이터셋인 OpenFake를 제시한다. OpenFake는 약 4백만 개의 이미지로 구성되어 있으며, 3백만 개의 실제 이미지와 상세 설명, 그리고 최첨단 독점 및 오픈 소스 모델에서 생성된 약 1백만 개의 합성 이미지를 포함한다. OpenFake를 기반으로 훈련된 탐지기는 in-distribution 성능에서 거의 완벽한 수준을 달성하며, 보이지 않는 생성기에 대한 강력한 일반화 능력과, 실제 소셜 미디어 테스트 세트에서 높은 정확도를 보여 기존 데이터셋으로 훈련된 모델보다 월등한 성능을 입증했다. 결론적으로, 고품질의 지속적으로 업데이트되는 벤치마크를 통해 실제 환경에서 자동 딥페이크 탐지가 가능하고 효과적임을 입증한다.
