Lijie Hu, Tianhao Huang, Huanyi Xie, Xilin Gong, Chenyang Ren, Zhengyu Hu, Lu Yu, Ping Ma, Di Wang
개요
Concept Bottleneck Model (CBM)은 인간과 유사한 개념을 사용하여 높은 예측 정확도를 달성하면서 블랙박스 심층 학습 모델에 대한 개념 기반 설명을 제공할 수 있다는 점에서 주목받고 있습니다. 하지만 기존 CBM의 훈련은 데이터셋에 주석된 개념의 정확성과 풍부함에 크게 의존하며, 이러한 개념 레이블은 전문가가 제공해야 하므로 비용이 많이 들고 상당한 자원과 노력이 필요합니다. 또한, 개념 중요도 맵이 입력 중요도 맵과 자주 불일치하여 개념 예측이 무관한 입력 특징에 해당하는 문제(주석 정렬 문제)가 발생합니다. 본 논문에서는 주석된 데이터가 부족한 실제 상황에 적합한 새로운 프레임워크인 SSCBM(Semi-supervised Concept Bottleneck Model)을 제안합니다. SSCBM은 라벨링된 데이터와 라벨링되지 않은 데이터에 대한 공동 훈련과 개념 수준에서의 라벨링되지 않은 데이터 정렬을 활용하여 이러한 문제를 효과적으로 해결합니다. 의사 레이블 생성 전략과 정렬 손실을 제안하며, 실험 결과 SSCBM이 효과적이고 효율적임을 보여줍니다. 라벨링된 데이터가 10%만 있어도 네 개의 데이터셋에서 평균적으로 개념 정확도와 작업 정확도가 완전 지도 학습 설정에서 최고 기준 모델보다 각각 2.44%, 3.93%만 낮았습니다.
시사점, 한계점
•
시사점:
◦
주석 데이터가 부족한 상황에서도 높은 정확도를 유지하는 개념 기반 설명 가능한 모델을 제시.
◦
의사 레이블 생성 전략과 정렬 손실을 통해 개념 중요도 맵과 입력 중요도 맵의 불일치 문제 해결.
