Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

PARIC: Probabilistic Attention Regularization for Language Guided Image Classification from Pre-trained Vison Language Models

Created by
  • Haebom
Category
Empty

저자

Mayank Nautiyal, Stela Arranz Gheorghe, Kristiana Stefa, Li Ju, Ida-Maria Sintorn, Prashant Singh

개요

본 논문은 언어 안내 주의 프레임워크를 사용한 이미지 분류에서의 해석력과 성능 향상을 다룬다. 기존의 접근 방식은 사전 훈련된 비전-언어 기반 모델의 결정론적 임베딩에 의존하여 참조 주의도 맵을 생성하는데, 이는 교차 모드 매핑의 다중 값 및 불충분한 특성을 간과한다. 이러한 한계를 해결하기 위해, 본 논문에서는 언어 명세를 통해 시각적 주의를 안내하는 확률적 프레임워크인 PARIC을 제시한다. PARIC은 사전 훈련된 비전-언어 모델이 확률적 참조 주의도 맵을 생성하여, 불확실성 추정을 통합하면서 텍스트 및 시각 모드를 더 효과적으로 정렬할 수 있도록 한다. 다양한 벤치마크 테스트 문제에 대한 실험을 통해 PARIC이 예측 정확도 향상, 편향 완화, 일관된 예측 보장, 다양한 데이터셋에 대한 강건성 향상을 보여줌을 입증한다.

시사점, 한계점

시사점:
확률적 참조 주의도 맵 생성을 통해 언어 안내 주의 프레임워크의 성능 및 해석력 향상.
불확실성 추정을 통합하여 텍스트 및 시각 모드 간의 효과적인 정렬.
예측 정확도 향상, 편향 완화, 일관된 예측, 다양한 데이터셋에 대한 강건성 향상.
한계점:
PARIC의 성능 향상이 특정 데이터셋 및 모델에 국한될 가능성.
확률적 프레임워크의 계산 비용 증가.
다양한 언어 및 시각적 스타일에서의 일반화 성능에 대한 추가적인 연구 필요.
👍