Sign In

Detecting Systematic Weaknesses in Vision Models along Predefined Human-Understandable Dimensions

Created by
  • Haebom
Category
Empty

저자

Sujan Sai Gannamaneni, Rohil Prakash Rao, Michael Mock, Maram Akila, Stefan Wrobel

개요

본 논문은 심층 신경망(DNN)의 체계적인 약점을 찾는 슬라이스 발견 방법(SDM)을 개선한 알고리즘을 제시합니다. 기존 SDM은 구조화된 데이터에는 효과적이나, 이미지 데이터에는 의미 메타데이터 부족으로 적용이 어려웠습니다. 본 논문에서는 제로샷 이미지 분류를 위한 기초 모델과 조합 탐색 방법을 결합하여 이미지의 체계적인 약점을 찾는 알고리즘을 제안합니다. 이 알고리즘은 사전 정의된 인간이 이해할 수 있는 차원에 맞춰 약한 슬라이스를 식별하며, 기초 모델 사용으로 인한 노이즈 메타데이터의 영향을 완화하는 접근 방식도 포함합니다. 합성 및 실제 데이터셋을 사용한 검증을 통해 인간이 이해할 수 있는 체계적인 약점을 찾는 능력을 보였으며, 여러 최첨단 컴퓨터 비전 DNN의 체계적인 약점을 발견했습니다.

시사점, 한계점

시사점:
기초 모델을 활용하여 이미지 데이터의 의미 메타데이터를 생성하고, 이를 통해 인간이 이해할 수 있는 차원에 맞춰 DNN의 체계적인 약점을 분석할 수 있는 새로운 방법 제시.
기존 SDM의 한계를 극복하고, 이미지 데이터에 대한 DNN 취약점 분석의 효율성 및 정확성 향상.
다양한 최첨단 컴퓨터 비전 DNN의 체계적인 약점을 발견하여 DNN의 신뢰성 및 안전성 향상에 기여.
한계점:
기초 모델 사용으로 인한 노이즈 메타데이터의 영향을 완전히 배제할 수 없음.
알고리즘의 성능은 기초 모델의 성능에 의존적일 수 있음.
특정 도메인 또는 유형의 이미지에 대해서는 일반화 성능이 떨어질 수 있음.
👍