Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Uncertainty-aware Long-tailed Weights Model the Utility of Pseudo-labels for Semi-supervised Learning

Created by
  • Haebom
Category
Empty

저자

Jiaqi Wu, Junbiao Pang, Qingming Huang

개요

본 논문은 기존의 준지도 학습(SSL)에서 신뢰도 기반의 의사 레이블 필터링이 가지는 한계점(적절한 임계값 설정의 어려움, 과신 문제)을 해결하기 위해, 의사 레이블의 유용성을 평가하는 불확실성 인식 앙상블 구조(UES)를 제안합니다. UES는 의사 레이블의 유용성을 긴 꼬리 가중치로 모델링하여 임계값 설정 문제를 해결하고, 신뢰할 수 없는 의사 레이블도 모델의 강건성 향상에 기여하도록 합니다. 경량화되고 아키텍처에 독립적인 UES는 분류 및 회귀를 포함한 다양한 컴퓨터 비전 작업에 쉽게 적용 가능합니다. 실험 결과, DualPose와 결합하여 Sniffing, FLIC, LSP 데이터셋에서 PCK 향상을 보였으며, FixMatch와 결합하여 CIFAR-10 및 CIFAR-100 데이터셋에서 정확도 향상을 달성했습니다.

시사점, 한계점

시사점:
기존 준지도 학습의 의사 레이블 필터링 문제점을 해결하는 새로운 방법 제시.
임계값 설정 없이 의사 레이블의 유용성을 효과적으로 평가하는 UES 구조 제안.
다양한 컴퓨터 비전 작업에 적용 가능한 경량 및 아키텍처 독립적인 방법.
DualPose 및 FixMatch와의 결합을 통해 여러 데이터셋에서 성능 향상을 입증.
한계점:
제안된 방법의 일반화 성능에 대한 추가적인 실험이 필요할 수 있음.
특정 데이터셋 및 모델에 대한 최적화된 파라미터 탐색이 필요할 수 있음.
극도로 제한된 labeled data 상황에서의 성능 평가가 추가적으로 필요할 수 있음.
👍