본 논문은 균형 잡힌 훈련 데이터에도 불구하고 심층 신경망(DNN)이 객체 인식 과정에서 특정 범주에 대해 편향을 보이는 현상을 다룹니다. 이러한 편향의 근본적인 메커니즘을 밝히기 위해, 인간의 시각 시스템이 계층적 처리를 통해 객체 다양체를 분리하여 객체 인식을 달성하는 방식에서 영감을 얻어 DNN에서 클래스 특정 지각 다양체의 기하학적 복잡성을 모델 편향과 연결하는 기하학적 분석 프레임워크를 제안합니다. 연구 결과, 기하학적 복잡성의 차이가 범주 간 인식 능력의 차이를 야기하여 편향을 초래할 수 있음을 밝혔습니다. 이 분석을 뒷받침하기 위해 지각 다양체의 기하학적 특성을 계산하도록 설계된 Perceptual-Manifold-Geometry 라이브러리를 소개합니다.
시사점, 한계점
•
시사점: DNN의 객체 인식 편향의 원인을 기하학적 복잡성 차이라는 새로운 관점에서 설명함. Perceptual-Manifold-Geometry 라이브러리를 통해 DNN의 지각 다양체 분석 및 편향 진단 도구 제공. 인간 시각 시스템의 계층적 처리 메커니즘을 DNN 편향 해결에 적용할 가능성 제시.
•
한계점: 제안된 프레임워크의 일반성 및 다양한 DNN 아키텍처 및 데이터셋에 대한 적용 가능성에 대한 추가 연구 필요. 기하학적 복잡성 이외의 다른 요인들(예: 데이터 불균형, 훈련 과정 등)의 영향에 대한 고찰 부족. Perceptual-Manifold-Geometry 라이브러리의 확장성 및 효율성에 대한 추가적인 검증 필요.
