본 논문은 정보 흐름 분석을 기반으로 필터 및 아키텍처 수준의 중복성을 해결하는 새로운 신경망 압축 방식을 제시합니다. 텐서 흐름 발산을 사용하여 네트워크 계층 간 정보 변환을 정량화하고, 두 단계의 최적화 프로세스를 개발합니다. 첫 번째 단계는 반복적인 발산 인식 가지치기를 통해 중요한 정보 경로를 보존하면서 중복 필터를 식별하고 제거합니다. 두 번째 단계는 계층별 정보 전파 기여도를 분석하고 네트워크 성능에 미치는 영향이 최소인 전체 계층을 선택적으로 제거하여 이 원리를 상위 수준 아키텍처 최적화로 확장합니다. 제안된 방법은 컨볼루션 네트워크, 변환기, 하이브리드 설계 등 다양한 아키텍처에 자연스럽게 적용되며, 서로 다른 계층 유형 간의 구조적 중요성을 비교하기 위한 일관된 메트릭을 제공합니다. 여러 현대 아키텍처 및 데이터 세트에 대한 실험적 검증 결과, 이 결합된 방식은 경쟁력 있는 정확도를 유지하면서 상당한 모델 압축을 달성합니다.
