AutoSculpt: A Pattern-based Model Auto-pruning Framework Using Reinforcement Learning and Graph Learning

Created by

Haebom

저자

Lixian Jing, Jianpeng Qi, Junyu Dong, Yanwei Yu

💡 개요

본 논문은 엣지 디바이스에서 딥러닝 모델의 효율성 및 정확도 향상을 위한 자동 모델 가지치기 프레임워크인 AutoSculpt를 제안합니다. AutoSculpt는 그래프 학습과 심층 강화학습을 활용하여 딥러닝 모델의 일반적인 패턴을 인식하고 가지치기함으로써, 연산량 감소와 정확도 유지 사이의 최적 균형을 자동으로 달성합니다. 다양한 모델 아키텍처에 대한 실험 결과, AutoSculpt는 최대 90%의 가지치기율과 18%의 FLOPs 감소율을 달성하며 기존 방법론들을 능가했습니다.

🔑 시사점 및 한계

•

딥러닝 모델의 다양성과 연산자 복잡성에도 불구하고, 그래프 학습과 강화학습을 결합하여 일반적인 패턴 기반의 자동 가지치기 가능성을 제시합니다.

•

기존 추론 엔진에서 인식 가능한 패턴에 대한 가지치기를 수행하여 실제 런타임 가속 효과를 기대할 수 있습니다.

•

모든 종류의 모델 아키텍처 및 연산자에 대해 항상 최적의 성능을 보장하는지, 그리고 특정 하드웨어 가속기에서의 실질적인 성능 향상에 대한 추가적인 검증이 필요합니다.

PDF 보기

Made with Slashpage