본 논문은 인공지능 생성 콘텐츠(AIGC)의 급격한 발전으로 인한 보안 문제에 대응하기 위해, 설명 가능한 AIGC 탐지를 위한 대규모 멀티모달 벤치마크인 Ivy-Fake를 제안합니다. 기존 탐지 방법의 한계점을 극복하기 위해, 다양한 생성 모델과 실제 데이터에서 수집된 106,000개 이상의 풍부하게 주석이 달린 훈련 샘플과 5,000개의 수동 검증된 평가 예제로 구성된 데이터셋을 구축했습니다. 또한, Group Relative Policy Optimization (GRPO) 기반의 강화 학습 모델인 Ivy-xDetector를 제안하여 설명 가능한 추론 체인을 생성하고 다양한 합성 콘텐츠 탐지 벤치마크에서 강력한 성능을 달성했습니다.
시사점, 한계점
•
시사점:
◦
설명 가능한 AIGC 탐지를 위한 최초의 대규모 멀티모달 벤치마크인 Ivy-Fake 제안.
◦
Ivy-Fake는 풍부한 주석과 다양한 생성 모델 및 실제 데이터에서 수집된 샘플을 포함하여 설명 가능성과 신뢰성을 향상시킴.
◦
GRPO 기반의 강화 학습 모델인 Ivy-xDetector를 통해 설명 가능한 추론 체인을 생성하고, 기존 방법 대비 향상된 성능을 보임.
