Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MxMoE: Mixed-precision Quantization for MoE with Accuracy and Performance Co-Design

Created by
  • Haebom

저자

Haojie Duanmu, Xiuhong Li, Zhihang Yuan, Size Zheng, Jiangfei Duan, Xingcheng Zhang, Dahua Lin

개요

본 논문은 Mixture-of-Experts (MoE) 모델의 배포 과제인 많은 파라미터 수와 높은 연산 요구량을 해결하기 위해 양자화 기법을 연구합니다. 선형 블록의 양자화 민감도 차이와 전문가 활성화 빈도의 불균일성을 분석하여, 알고리즘 및 시스템 관점을 고려한 혼합 정밀도 최적화 프레임워크 MxMoE를 제시합니다. MxMoE는 파라미터 민감도, 전문가 활성화 역학 및 하드웨어 자원을 고려하여 효율적인 혼합 정밀도 설정을 도출하고, 다양한 정밀도의 GEMM을 병렬로 실행할 수 있도록 최적화된 혼합 정밀도 GroupGEMM 커널을 자동 생성합니다. 실험 결과, MxMoE는 기존 방법보다 우수한 성능을 보이며, GPTQ보다 2.4 낮은 Wikitext-2 perplexity를 달성하고, 전정밀도 대비 최대 3.4배의 속도 향상, 5-bit 가중치-활성화 양자화에서 균일 양자화 대비 최대 29.4%의 속도 향상을 달성했습니다.

시사점, 한계점

•
시사점:
◦
MoE 모델의 효율적인 양자화를 위한 새로운 프레임워크 MxMoE 제시
◦
알고리즘 및 시스템 관점을 모두 고려한 혼합 정밀도 최적화
◦
기존 방법 대비 향상된 성능 (낮은 perplexity, 높은 속도)
◦
자동화된 혼합 정밀도 GroupGEMM 커널 생성
•
한계점:
◦
특정 모델 (MoE)과 벤치마크(Wikitext-2)에 대한 평가 결과 제시. 다른 모델 및 데이터셋에 대한 일반화 가능성에 대한 추가 연구 필요.
◦
MxMoE의 성능 향상이 특정 하드웨어 환경에 의존할 수 있음. 다양한 하드웨어 플랫폼에서의 성능 평가 필요.
👍
Made with Slashpage