본 논문은 소셜 미디어 상의 다양한 형태의 가짜 정보 확산에 대한 우려를 해결하기 위해, 대규모 다양한 데이터셋 부족으로 인해 제한적인 비디오 가짜 정보 탐지 연구에 대한 해결책을 제시합니다. 기존 방법들의 한계점인 엄격한 템플릿 과적합 및 기만적인 콘텐츠에 대한 심층적 추론 부족을 해결하고자, 10만 개 이상의 비디오-텍스트 쌍과 세분화된 해석 가능한 주석을 포함하는 대규모 벤치마크 FakeVV를 소개합니다. 또한, 심층 추론과 협업 규칙 기반 강화 학습을 통합한 새로운 프레임워크 Fact-R1을 제안합니다. Fact-R1은 3단계 과정 (1) 가짜 정보 장기 사고 과정(Long-Chain-of-Thought, CoT) 지시 조정, (2) 직접 선호도 최적화(Direct Preference Optimization, DPO)를 통한 선호도 정렬, (3) 새로운 검증 가능한 보상 함수를 사용하는 그룹 상대 정책 최적화(Group Relative Policy Optimization, GRPO)를 통해 훈련됩니다. 이를 통해 Fact-R1은 고급 텍스트 기반 강화 학습 시스템에서 관찰되는 것과 유사한 출현 추론 동작을 더 복잡한 다중 모드 가짜 정보 설정에서 보여줍니다. 본 연구는 대규모 비디오 이해, 추론 기반 정렬 및 해석 가능한 검증을 연결하여 가짜 정보 탐지에 대한 새로운 패러다임을 제시합니다.
