Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MMCR: Advancing Visual Language Model in Multimodal Multi-Turn Contextual Reasoning

Created by
  • Haebom
Category
Empty

저자

Dawei Yan, Yang Li, Qing-Guo Chen, Weihua Luo, Peng Wang, Haokui Zhang, Chunhua Shen

개요

본 논문은 현실 세계의 인간-AI 상호작용에 더 부합하는 다중 이미지를 포함하는 다회차 대화에 초점을 맞춥니다. 기존의 Vision-Language Model (VLM)들이 주로 단회차 대화 학습 및 평가 벤치마크에 의존하는 것과 달리, 본 논문에서는 집중된 주제와 간결하고 명확한 내용과 같은 인간 대화의 특성을 따르는 새로운 데이터셋 MMCR을 제시합니다. MMCR은 310,000개의 문맥 대화를 포함하는 대규모 다중 이미지 다회차 지시어 튜닝 데이터셋 MMCR-310k와 8개 도메인 및 40개 하위 주제를 포함하는 진단 벤치마크 MMCR-Bench로 구성됩니다. MMCR-310k로 미세 조정된 모델은 MMCR-Bench에서 5.2% 높은 문맥 정확도를 달성하고, 기존 벤치마크에서도 일관된 성능 향상을 보였습니다 (AI2D +1.1%, MMMU +1.2%, MMVet +1.2%). MMCR과 프롬프트 엔지니어링은 공개될 예정입니다.

시사점, 한계점

•
시사점:
◦
다중 이미지 다회차 대화 데이터셋 MMCR-310k를 통해 기존 VLM의 성능 향상을 도모.
◦
MMCR-Bench를 통해 다양한 도메인과 주제에 대한 모델의 성능을 진단하고 평가 가능.
◦
공개된 데이터셋과 프롬프트 엔지니어링을 통해 VLM 연구의 발전에 기여.
◦
다회차 대화의 특성을 반영한 데이터셋으로 현실적인 인간-AI 상호작용 모델 개발 가능성 제시.
•
한계점:
◦
MMCR-310k의 데이터 크기가 크지만, 실제 인간 대화의 모든 다양성을 완벽히 반영하지 못할 수 있음.
◦
특정 도메인이나 주제에 편향되어 있을 가능성 존재.
◦
새로운 벤치마크 MMCR-Bench의 일반화 성능에 대한 추가 검증 필요.
👍
Made with Slashpage