본 논문은 딥 뉴럴 네트워크(DNN)의 크기와 계산 비용 문제를 해결하기 위해 구조적 희소성(structured sparsity)과 낮은 비트 양자화(low-bit quantization)를 결합하는 새로운 프레임워크인 SLOPE (Structured Sparsity at Low Precision)를 제안한다. 기존의 두 기법을 단순하게 결합하면 모델 정확도가 크게 저하되는 문제를 해결하기 위해, 훈련 과정에서 정규화 전략을 도입하여 완전 정밀도 가중치와 희소화 및 양자화된 가중치 간의 각도 정렬을 촉진한다. ResNet-18 모델에서 약 20배의 모델 크기 감소를 달성하면서도 원래 정확도의 약 99%를 유지하며, ResNet-18, ViT-Small, Mask R-CNN과 같은 다양한 모델에서 기존의 양자화 및 구조적 희소성 기법보다 우수한 성능을 보였다.
