Monet은 시각적 추론을 발전시키기 위해 중간 추론 단계에 시각적 증거를 주입하여 텍스트 기반 사고의 한계를 넘어선 "이미지로 생각하기" 패러다임을 따릅니다. 이 연구에서는 외부 도구에 의해 근본적으로 제한되는 기존 방법의 한계를 극복하기 위해, 연속적인 임베딩을 생성하여 중간 시각적 사고로 작용하도록 하는 훈련 프레임워크인 Monet을 소개합니다. Monet은 잠재 시각 공간 내에서 직접적으로 추론하도록 다중 모드 대규모 언어 모델(MLLM)을 훈련합니다. 이 연구는 잠재 시각 정렬의 높은 계산 비용과 잠재 임베딩에 대한 불충분한 감독이라는 두 가지 주요 과제를 식별하고, 3단계 증류 기반 감독 미세 조정(SFT) 파이프라인으로 이를 해결합니다. 또한, GRPO를 잠재 추론에 적용하는 것의 한계를 밝혀내고, 잠재 임베딩을 정책 기울기 업데이트에 명시적으로 통합하는 강화 학습 방법인 VLPO(Visual-latent Policy Optimization)를 제안합니다. SFT를 지원하기 위해 125K개의 실제, 차트, OCR 및 기하학적 CoT를 포함하는 고품질 텍스트-이미지 교차 CoT 데이터 세트인 Monet-SFT-125K를 구축합니다. Monet-7B 모델은 실제 세계 인식 및 추론 벤치마크에서 일관된 개선을 보이며, 어려운 추상적 시각적 추론 작업에서 강력한 out-of-distribution 일반화를 보입니다.
