ConceptScope는 시각 데이터셋의 편향을 분석하는 확장 가능하고 자동화된 프레임워크입니다. 비전 기반 모델의 표현에 대해 훈련된 희소 오토인코더를 사용하여 인간이 이해할 수 있는 개념을 발견하고 정량화합니다. ConceptScope는 개념을 대상, 컨텍스트 및 편향 유형으로 분류하여 클래스 수준의 데이터셋 특성화, 편향 식별 및 개념 기반 하위 그룹화를 통한 견고성 평가를 가능하게 합니다.
시사점, 한계점
•
다양한 시각적 개념(객체, 텍스처, 배경, 얼굴 속성, 감정, 동작 등)을 캡처할 수 있음
•
개념 활성화가 의미적으로 의미 있는 이미지 영역과 일치하는 공간적 속성을 생성함
•
Waterbirds의 배경 편향과 같은 알려진 편향을 감지하고, ImageNet의 공동 발생 객체와 같은 이전에 주석 처리되지 않은 편향을 발견함
