본 논문은 개념 기반 모델(CMs)이 분포 외(OOD) 입력에 어떻게 반응하는지 연구합니다. CMs는 먼저 고차원 개념(예: 줄무늬, 검은색)을 예측한 다음 해당 개념으로부터 작업 레이블을 예측하는 해석 가능한 신경망 아키텍처입니다. 특히, 입력이 OOD일 때 개념 개입(즉, 전문가가 테스트 시점에 CM의 잘못 예측된 개념을 수정하는 작업)이 CMs의 작업 예측에 미치는 영향을 연구합니다. 분석 결과, 최첨단 CMs에서 누출 오염이라는 약점이 발견되었는데, 이는 OOD 입력에 대해 개입할 때 정확도를 제대로 향상시키지 못하게 합니다. 이를 해결하기 위해, 본 논문에서는 개념에서 누락된 정보가 분포 내에만 있을 때 해당 정보를 동적으로 활용하도록 학습하는 새로운 CM인 MixCEM을 제안합니다. 완전한 개념 주석 집합이 있는 작업과 없는 작업에서의 결과는 MixCEM이 개념 개입의 유무에 관계없이 분포 내 및 OOD 샘플 모두에 대한 정확도를 크게 향상시킴으로써 강력한 기준 모델을 능가함을 보여줍니다.
