확산 및 흐름 모델과 같은 대규모 비전 생성 모델은 시각적 생성 작업에서 뛰어난 성능을 보였지만, 이러한 사전 훈련된 모델을 다운스트림 작업으로 전송하는 과정에서 파라미터 중복이 발생합니다. 본 논문에서는 확산 및 흐름 모델을 위한 엔트로피 기반 자동 점진적 가지치기 프레임워크인 EntPruner를 제안합니다. EntPruner는 데이터 종속적 조건부 엔트로피 편차(CED)를 사용하여 각 블록의 중요도를 평가하고, 제로샷 적응형 가지치기 프레임워크를 통해 훈련 중 가지치기 시기와 정도를 자동으로 결정합니다. DiT 및 SiT 모델에 대한 광범위한 실험을 통해 EntPruner는 ImageNet 및 세 개의 다운스트림 데이터 세트에서 경쟁력 있는 생성 품질을 유지하면서 최대 2.22배의 추론 속도 향상을 달성함을 입증했습니다.
시사점, 한계점
•
시사점:
◦
생성 모델의 블록 수준 중요도 평가를 위한 엔트로피 기반 가지치기 전략 제안 (CED 사용).
◦
제로샷 적응형 가지치기 프레임워크를 통한 자동 가지치기 결정.
◦
DiT 및 SiT 모델에 대한 실험을 통해 성능 및 속도 향상 입증.
•
한계점:
◦
특정 모델 (DiT, SiT)에 대한 실험 결과만 제시. 다른 모델에 대한 일반화 가능성 추가 연구 필요.
