Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OpenMMReasoner: Pushing the Frontiers for Multimodal Reasoning with an Open and General Recipe

Created by
  • Haebom
Category
Empty

저자

Kaichen Zhang, Keming Wu, Zuhao Yang, Kairui Hu, Bin Wang, Ziwei Liu, Xingxuan Li, Lidong Bing

개요

본 논문은 대규모 추론 모델의 멀티모달 영역 확장에 대한 연구로, 투명하고 재현 가능한 데이터 큐레이션 및 학습 전략 부족 문제를 해결하고자 한다. OpenMMReasoner를 제안하여, 지도 학습 미세 조정(SFT)과 강화 학습(RL)의 두 단계로 구성된 완전 투명한 레시피를 제시한다. SFT 단계에서는 874K 샘플의 콜드 스타트 데이터셋을 구축하여 추론 능력의 기반을 다지고, RL 단계에서는 74K 샘플 데이터셋을 활용하여 능력을 향상시키고 안정화한다. OpenMMReasoner는 강력한 베이스라인을 능가하며, 데이터 품질과 학습 설계가 멀티모달 추론 성능에 미치는 중요성을 강조한다. 9개의 멀티모달 추론 벤치마크에서 Qwen2.5-VL-7B-Instruct 베이스라인 대비 11.6% 성능 향상을 달성했으며, 모든 코드, 파이프라인, 데이터를 공개한다.

시사점, 한계점

시사점:
완전 투명한 두 단계 학습 레시피(SFT, RL) 제시
데이터 품질과 학습 디자인의 중요성 강조
강력한 베이스라인 대비 높은 성능 향상 (11.6%)
코드, 파이프라인, 데이터 공개를 통한 연구 재현성 확보
한계점:
구체적인 한계점은 논문에 명시되지 않음 (다만, 데이터셋 크기, 모델 크기 등 추가적인 정보가 있다면 한계점으로 볼 수 있음)
👍