본 논문은 Vision Transformer 모델의 작동 방식에 대한 이해를 높이기 위해, 입력부터 출력까지 모델 추론에 가장 큰 영향을 미치는 뉴런 경로(influential neuron paths)를 분석하는 새로운 방법을 제시합니다. 기존 연구들이 입력 특성 부여나 뉴런 역할 분석에 집중한 것과 달리, 본 논문은 계층별 정보와 계층 간 정보 흐름의 전체적인 경로를 고려합니다. 먼저, 뉴런 집합의 모델 결과 기여도를 평가하는 공동 영향 측정법을 제안하고, 계층적으로 가장 영향력 있는 뉴런을 효율적으로 선택하여 입력부터 출력까지의 중요 뉴런 경로를 발견하는 방법을 제시합니다. 실험 결과, 제안된 방법이 기존 방법보다 더 효과적으로 중요 뉴런 경로를 찾아내며, Vision Transformer가 동일한 이미지 범주 내에서 시각 정보를 처리하는 특정 내부 작동 메커니즘을 보여준다는 것을 입증합니다. 또한, 발견된 뉴런 경로가 모델의 하위 작업 성능을 유지한다는 것을 보여주며, 모델 가지치기와 같은 실제 응용에 대한 시사점을 제공합니다. 소스 코드는 웹사이트(https://foundation-model-research.github.io/NeuronPath/)에서 확인 가능합니다.
