Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

EXPLOR: Extrapolatory Pseudo-Label Matching for Out-of-distribution Uncertainty Based Rejection

Created by
  • Haebom

저자

Yunni Qu (Department of Computer Science, University of North Carolina at Chapel Hill), James Wellnitz (Eshelman School of Pharmacy, University of North Carolina at Chapel Hill), Dzung Dinh (Department of Computer Science, University of North Carolina at Chapel Hill), Bhargav Vaduri (Department of Computer Science, University of North Carolina at Chapel Hill), Alexander Tropsha (Eshelman School of Pharmacy, University of North Carolina at Chapel Hill), Junier Oliva (Department of Computer Science, University of North Carolina at Chapel Hill)

개요

EXPLOR는 분포 외(OOD) 데이터에 대한 예측과 불확실성 기반 거부를 개선하기 위해 지원 확장 추정 가상 라벨링을 활용하는 새로운 프레임워크입니다. 다양한 기본 모델을 가상 라벨러로 사용하여 확장된 증강 데이터에 대한 OOD 성능을 개선하기 위해 공유 임베딩과 새로운 헤드별 매칭 손실을 사용하는 여러 MLP 헤드(기본 모델당 하나씩)를 사용합니다. 모달리티 특정 증강에 의존하거나 OOD 데이터에 대한 접근을 가정하는 이전 방법과 달리, EXPLOR은 잠재 공간 증강에 대한 추정 가상 라벨링을 도입하여 모든 실수 벡터 데이터에 대해 강력한 OOD 일반화를 가능하게 합니다. 신경망 백본을 사용하는 이전의 모달리티 비의존적 방법과 달리, EXPLOR은 모델 비의존적이며 간단한 트리 기반 모델부터 복잡한 OOD 일반화 모델까지 효과적으로 작동합니다. 다양한 데이터셋에서 단일 소스 도메인 일반화 설정에서 최첨단 방법보다 우수한 성능을 달성함을 보여줍니다.

시사점, 한계점

시사점:
잠재 공간 증강을 통한 추정 가상 라벨링으로 다양한 데이터 유형에 대한 강력한 OOD 일반화 가능.
모델 비의존적 프레임워크로 다양한 기본 모델에 적용 가능.
단일 소스 도메인 일반화 설정에서 SOTA 성능 달성.
한계점:
단일 소스 도메인 일반화 설정에 국한된 실험 결과. 다중 소스 도메인 일반화 성능은 검증되지 않음.
제안된 매칭 손실 함수의 일반화 성능 및 최적화에 대한 추가적인 분석 필요.
다양한 기본 모델의 성능 차이에 대한 분석 및 최적 기본 모델 선택 전략에 대한 추가 연구 필요.
👍