[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Credal Wrapper of Model Averaging for Uncertainty Estimation in Classification

Created by
  • Haebom

저자

Kaizheng Wang, Fabio Cuzzolin, Keivan Shariatmadar, David Moens, Hans Hallez

개요

본 논문은 베이지안 신경망(BNNs)과 딥 앙상블(DEs)의 모델 평균화에 대한 크리달 집합 표현을 구성하는 혁신적인 접근 방식인 크리달 래퍼(credal wrapper)를 제시합니다. 이는 분류 작업에서 불확실성 추정을 개선하는 데 목적이 있습니다. BNNs 또는 DEs에서 도출된 유한한 단일 예측 분포 집합을 고려하여, 제안된 크리달 래퍼 접근 방식은 제한된 수의 분포의 가용성으로 인한 인식론적 불확실성을 인정하면서 클래스별 상한 및 하한 확률 경계를 추출합니다. 클래스에 대한 이러한 확률 구간은 볼록 확률 집합(크리달 집합)에 매핑될 수 있으며, 이를 통해 교차 확률 변환이라는 변환을 사용하여 고유한 예측을 얻을 수 있습니다. 본 논문에서는 여러 개의 이상치 탐지 벤치마크에 대한 광범위한 실험을 수행합니다. 여기에는 다양한 데이터 세트 쌍(CIFAR10/100 대 SVHN/Tiny-ImageNet, CIFAR10 대 CIFAR10-C, CIFAR100 대 CIFAR100-C, ImageNet 대 ImageNet-O)과 VGG16, ResNet-18/50, EfficientNet B2, ViT Base와 같은 다양한 네트워크 아키텍처가 포함됩니다. 제안된 크리달 래퍼 방법은 BNN 및 DE 기준선과 비교하여 불확실성 추정에서 우수한 성능을 보이며 손상된 데이터에 대한 예상 교정 오류를 낮춥니다.

시사점, 한계점

시사점:
베이지안 신경망 및 딥 앙상블의 모델 평균화를 위한 새로운 크리달 래퍼 방법을 제시하여 불확실성 추정 성능을 향상시켰습니다.
다양한 데이터셋과 네트워크 아키텍처에서 우수한 성능을 검증하였습니다.
손상된 데이터에 대한 예상 교정 오류를 감소시켰습니다.
한계점:
제안된 방법의 계산 비용에 대한 분석이 부족합니다.
특정 유형의 데이터 또는 네트워크 아키텍처에 대한 일반화 성능에 대한 추가 연구가 필요합니다.
크리달 래퍼 방법의 이론적 속성에 대한 더 깊이 있는 분석이 필요할 수 있습니다.
👍