Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Progressive Language-guided Visual Learning for Multi-Task Visual Grounding

Created by
  • Haebom

저자

Jingchao Wang, Hong Wang, Wenlong Zhang, Kunhua Ji, Dingjiang Huang, Yefeng Zheng

개요

본 논문은 다중 작업 시각적 접지(MTVG) 문제를 해결하기 위한 새로운 프레임워크인 PLVL(Progressive Language-guided Visual Learning)을 제안합니다. MTVG는 참조 표현 이해(REC)와 참조 표현 분할(RES) 두 가지 하위 작업으로 구성됩니다. 기존 방법들은 시각 및 언어 모드에 대한 독립적인 특징 추출, 교차 모드 상호 작용 모듈, 그리고 각 하위 작업에 대한 독립적인 예측 헤드로 구성된 파이프라인을 따릅니다. PLVL은 기존 방법의 두 가지 한계점, 즉 1) 언어 정보가 시각적 특징 추출에 충분히 활용되지 않고 별도의 교차 모달 상호 작용 모듈이 필요하다는 점과 2) REC와 RES 작업 간의 관계가 효과적으로 활용되지 않는다는 점을 해결하기 위해 제안되었습니다. PLVL은 언어 정보를 점진적으로 주입하여 언어 관련 시각적 특징을 학습하고, 추가적인 교차 모드 융합 모듈 없이도 언어 안내를 완전히 도입합니다. 또한 REC의 위치 중심이 RES의 대상 영역 식별에 도움이 된다는 점에 착안하여 두 하위 작업에 대한 공동 예측을 수행하는 다중 작업 헤드를 설계했습니다. 여러 벤치마크 데이터셋에서의 실험 결과, PLVL이 기존 방법보다 REC와 RES 작업 모두에서 성능이 뛰어남을 보여줍니다.

시사점, 한계점

시사점:
기존의 다중 작업 시각적 접지 방법의 한계점을 효과적으로 해결하는 새로운 프레임워크 PLVL을 제시.
언어 정보를 효율적으로 활용하여 시각적 특징 추출을 개선하고, 교차 모드 상호 작용 모듈의 필요성을 제거.
REC와 RES 작업 간의 상관관계를 활용하여 공동 예측을 수행함으로써 정확도 향상.
여러 벤치마크 데이터셋에서 기존 방법보다 우수한 성능을 입증.
한계점:
제안된 방법의 일반화 성능에 대한 추가적인 연구가 필요.
다양한 유형의 참조 표현에 대한 로버스트성 평가가 추가적으로 필요.
특정 데이터셋에 대한 과적합 가능성에 대한 분석 필요.
👍