Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Know When to Abstain: Optimal Selective Classification with Likelihood Ratios

Created by
  • Haebom

저자

Alvin Heng, Harold Soh

개요

본 논문은 Neyman-Pearson Lemma를 활용하여 선택적 분류(selective classification)에서 최적의 선택 함수를 설계하는 방법을 재검토합니다. 불확실한 예측을 회피함으로써 예측 모델의 신뢰성을 높이는 선택적 분류에서 기존의 사후 선택 기준들의 동작을 통합하고 새로운 접근 방식을 제시합니다. 특히, 테스트 시점의 입력 분포가 훈련 시점과 다른 공변량 이동(covariate shift) 상황에 중점을 두고, 다양한 시각 및 언어 작업(지도 학습 및 시각-언어 모델 포함)에서 제안된 방법을 평가합니다. 실험 결과, Neyman-Pearson 기반 방법이 기존 기준보다 일관되게 우수한 성능을 보임을 보여주며, 공변량 이동 하에서 선택적 분류를 개선하는 강력한 메커니즘으로서 likelihood ratio 기반 선택을 제시합니다. 코드는 공개적으로 제공됩니다.

시사점, 한계점

시사점: Neyman-Pearson Lemma를 활용한 likelihood ratio 기반 선택이 공변량 이동 하에서 선택적 분류의 성능을 향상시키는 효과적인 방법임을 실험적으로 증명. 기존의 사후 선택 기준들을 통합하는 이론적 프레임워크 제공. 새로운 선택적 분류 방법 제시. 공개된 코드를 통해 재현성 확보 및 추가 연구 가능.
한계점: 논문에서 다룬 공변량 이동 상황 외 다른 상황(예: 레이블 노이즈)에서의 성능은 추가 연구가 필요. 특정한 시각 및 언어 작업에 국한된 실험 결과로 일반화 가능성에 대한 추가 검증 필요. 사용된 데이터셋과 모델의 특성에 따라 성능 차이가 발생할 수 있음.
👍