본 논문은 인코더 기반 비전-언어 모델(VLMs)과의 성능 격차를 빠르게 줄이고 있는 인코더 없는 VLMs에 대한 연구를 제시합니다. 기존 인코더 기반 VLMs와 인코더 없이 사전 훈련된 비전 인코더, 불연속 토크나이저, 최소한의 시각적 계층을 사용하는 VLMs 간의 성능 차이를 체계적으로 분석하여 인코더 없는 VLMs의 특징을 심층적으로 탐구합니다. 이를 통해 인코더 기반 VLMs에 필적하는 효율적인 전략을 개발하고, 개선된 인코더 없는 VLM인 EVEv2.0을 제시합니다. EVEv2.0은 모달 간 간섭을 줄이기 위해 시각 및 언어 정보를 적절히 분해하고 계층적으로 연결하며, 효과적인 최적화를 위한 훈련 전략을 사용합니다. 실험 결과, EVEv2.0은 우수한 데이터 효율성과 강력한 시각적 추론 능력을 보여줍니다.
