Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Parameter Reduction Improves Vision Transformers: A Comparative Study of Sharing and Width Reduction

Created by
  • Haebom
Category
Empty

저자

Anantha Padmanaban Krishna Kumar (Boston University)

개요

본 논문은 Vision Transformers (ViT-B/16, ImageNet-1K)에서 MLP 블록에 대한 두 가지 간단한 파라미터 감소 전략을 연구합니다. GroupedMLP는 인접한 transformer 블록 간에 MLP 가중치를 공유하여 81.47%의 top-1 정확도를 달성하고, ShallowMLP는 MLP 은닉 차원을 줄여 81.25%의 top-1 정확도를 달성하며 추론 처리량을 38% 증가시켰습니다. 두 모델 모두 86.6M 파라미터의 baseline 모델 (81.05%)보다 우수한 성능을 보였으며, 훈련 안정성 또한 향상되었습니다.

시사점, 한계점

•
시사점:
◦
ViT-B/16 모델이 ImageNet-1K에서 과다 매개변수화된 상태임을 시사.
◦
파라미터 공유 및 너비 감소와 같은 구조적 제약이 유용한 귀납적 편향으로 작용할 수 있음.
◦
Vision Transformer 설계 시 파라미터 할당 방식이 중요함을 강조.
◦
모델의 훈련 안정성을 향상시킴.
•
한계점:
◦
특정 ViT-B/16 모델과 ImageNet-1K 데이터셋에 초점을 맞춤.
◦
다른 모델 크기나 데이터셋에 대한 일반화 가능성은 추가 연구가 필요함.
◦
본 논문에서 제안하는 파라미터 감소 기법의 최적화된 설계에 대한 추가적인 연구가 필요함.
👍
Made with Slashpage