Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Closing the Gap: Data-Centric Fine-Tuning of Vision Language Models for the Standardized Exam Questions

Created by
  • Haebom
Category
Empty

저자

Egemen Sert, \c{S}eyda Ertekin

개요

본 논문은 멀티모달 추론 연구의 중요성을 강조하며, 데이터 중심 접근 방식이 기존 알고리즘 중심 연구에 비해 갖는 잠재력을 탐구한다. 텍스트북 문제-해결 쌍, 커리큘럼 기반 다이어그램, 관련 자료를 결합한 1억 6140만 토큰의 멀티모달 데이터셋을 구축하고, 최적화된 추론 구문(QMSA)을 사용하여 Qwen-2.5VL-32B를 SFT 방식으로 파인튜닝했다. 그 결과, 새로운 벤치마크 YKSUniform에서 78.6%의 정확도를 달성하여 Gemini 2.0 Flash에 근접하는 성능을 보였다. 본 연구는 데이터 구성과 표현 구문이 멀티모달 추론에 중요한 영향을 미친다는 것을 보여주며, 오픈 웨이트 비전 언어 모델 발전을 위한 데이터 중심 프레임워크를 제시한다.

시사점, 한계점

시사점:
양질의 데이터와 최적화된 구문을 사용한 SFT가 독점 모델에 근접하는 성능을 달성할 수 있음을 입증.
데이터 중심 접근 방식이 멀티모달 추론 연구에 중요한 역할을 할 수 있음을 시사.
오픈 웨이트 모델의 성능 향상을 위한 데이터 구축 및 큐레이션의 중요성을 강조.
한계점:
연구가 특정 모델(Qwen-2.5VL-32B)과 데이터셋(YKSUniform)에 제한됨.
다른 모델 및 데이터셋에 대한 일반화 가능성은 추가 연구가 필요함.
SFT 방법론이 다른 알고리즘 기반 접근 방식에 비해 갖는 장단점 비교 분석이 미흡.
👍