Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MoDA: Modulation Adapter for Fine-Grained Visual Grounding in Instructional MLLMs

Created by
  • Haebom

저자

Wayner Barrios, Andres Villa, Juan Leon Alcazar, SouYoung Jin, Bernard Ghanem

개요

본 논문은 다중 모달 대규모 언어 모델(MLLM)의 성능 향상을 위한 경량 모듈인 MoDA(Modulation Adapter)를 제안합니다. 기존 MLLM은 복잡한 장면에서 세밀한 시각 개념을 제대로 이해하는 데 어려움을 겪는데, MoDA는 지시어 기반 변조를 통해 미리 정렬된 시각적 특징을 개선합니다. LLaVA 훈련 프로토콜을 따르는 두 단계 과정(1. 동결된 비전 인코더 및 어댑터 계층을 통한 이미지 특징 정렬, 2. 지시어 조정 단계에서 MoDA 어댑터를 사용한 특징 개선)을 거치며, 트랜스포머 기반 교차 주의 메커니즘을 이용해 언어 지시어에 따라 의미적으로 관련된 임베딩 차원을 강조하는 변조 마스크를 생성합니다. 변조된 특징은 자기 회귀적 언어 생성을 위해 LLM에 전달됩니다. 실험 결과, MoDA는 시각적 기반 강화 및 문맥적으로 적절한 응답 생성을 개선하여 이미지 기반 MLLM에 대한 범용적 향상 기능으로서의 효과를 보여줍니다.

시사점, 한계점

시사점:
경량화된 모듈로 MLLM의 시각적 기반 이해 능력 향상 가능성 제시
지시어 기반 변조를 통한 세밀한 시각 개념 이해 성능 개선
이미지 기반 MLLM의 범용적인 성능 향상을 위한 새로운 방법 제시
LLaVA와 같은 기존 프레임워크와의 호환성
한계점:
제안된 MoDA의 일반화 성능에 대한 추가적인 실험 및 분석 필요
다양한 종류의 시각 데이터 및 지시어에 대한 로버스트니스 평가 필요
다른 MLLM 아키텍처에 대한 적용성 및 효과 검증 필요
MoDA의 계산 비용 및 메모리 사용량에 대한 자세한 분석 필요
👍