본 논문은 AlexNet과 같이 사전 훈련된 신경망에 대한 설명 방법의 완전성과 해석성을 평가합니다. 기존의 뉴런 기반 설명 방법들이 완전성과 해석성 측면에서 부족함을 지적하며, 활성화 주성분(principal components)을 기반으로 한 설명 방법이 더 우수함을 보여줍니다. 뉴런은 신경망의 내부 표현의 분산된 특성을 고려하지 못하기 때문에 AlexNet 임베딩에 대한 적절한 기저가 아니라는 주장을 펼치며, 정량적 완전성 측정 및 사용자 연구를 통해 주성분 기반 설명이 뉴런 기반 설명보다 더 완전하고 해석 가능함을 입증합니다. 상대적으로 소수의 고분산 주성분을 분석하는 것만으로도 상당한 활성화 분산을 설명할 수 있으며, 이러한 주성분은 신경망 기능에도 큰 영향을 미치고 뉴런보다 훨씬 해석 가능성이 높다는 점을 강조합니다. 따라서 AlexNet과 같은 신경망의 설명 방법은 뉴런 대신 분산된 고차원 특성을 고려하는 주성분과 같은 기저를 사용해야 한다고 제안합니다.
