Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OATS: Outlier-Aware Pruning Through Sparse and Low Rank Decomposition

Created by
  • Haebom

저자

Stephen Zhang, Vardan Papyan

개요

본 논문은 대규모 기초 모델의 높은 메모리 소모량과 연산 비용 문제를 해결하기 위해, 재훈련 없이 신경망을 압축하는 새로운 방법인 OATS를 제안합니다. OATS는 입력 임베딩의 두 번째 모멘트 정보를 활용하여 모델 가중치를 희소 행렬과 저랭크 행렬의 합으로 분해합니다. Llama-3, Phi-3, ViT, DINOv2와 같은 대규모 언어 모델과 비전 트랜스포머를 최대 60%까지 압축하면서 최첨단 성능을 달성하고, 비교 가능한 수준으로 가지치기된 모델보다 최대 1.37배의 CPU 가속을 제공합니다.

시사점, 한계점

시사점:
재훈련 없이 대규모 트랜스포머 모델을 효과적으로 압축하는 새로운 방법(OATS) 제시.
Llama-3, Phi-3, ViT, DINOv2 등 다양한 모델에서 최첨단 성능 달성.
기존 가지치기 방법보다 향상된 성능 및 CPU 가속 효과 제공.
한계점:
OATS의 성능이 압축률 60%를 넘어서는 경우 성능 저하 여부에 대한 추가 연구 필요.
다양한 아키텍처와 크기의 모델에 대한 일반화 성능 평가 필요.
GPU 가속 효과에 대한 분석 부족.
👍