Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

KWT-Tiny: RISC-V Accelerated, Embedded Keyword Spotting Transformer

Created by
  • Haebom

저자

Aness Al-Qawlaq, Ajay Kumar M, Deepu John

개요

본 논문은 RISC-V 플랫폼에서 ARM KWT(Keyword Transformer) 모델의 양자화 및 하드웨어 가속화를 통해 엣지 장치에 Transformer 기반 모델을 적용하는 것을 탐구한다. 64kB RAM에서 베어 메탈 C로 실행되도록 맞춤형 엣지 AI 라이브러리를 사용하여 모델을 구현했다. KWT-1 모델은 출력 클래스를 35개에서 2개로 줄여 10%의 정확도 손실만으로 369배 작게 재훈련되었다. 재훈련 및 양자화를 통해 모델 크기가 2.42MB에서 1.65kB로 감소했다. GELU 및 SoftMax 연산을 가속화하는 맞춤형 RISC-V 명령어를 통합하여 추론 속도가 5배 빨라지고, 추론 클럭 사이클 수가 2,600만에서 550만으로 감소하면서 전력 소비가 약 5배 감소했으며, 면적 오버헤드는 약 29%로 작았다.

시사점, 한계점

Transformer 기반 모델을 저전력 IoT 장치에 이식하고 가속화하는 실행 가능한 방법을 제시.
KWT 모델의 크기를 대폭 줄여 엣지 장치에서의 실행 가능성을 높임.
RISC-V 명령어 설계를 통해 GELU 및 SoftMax 연산을 가속화하여 성능 향상 및 전력 소비 감소를 달성.
모델의 정확도는 일부 손실되었지만, 크기 감소 및 성능 향상에 비하면 상대적으로 작음.
맞춤형 RISC-V 명령어 구현에 따른 하드웨어 설계 및 개발 비용 발생 가능성.
제한된 메모리 환경(64kB RAM)에서만 검증되었으며, 다른 메모리 환경에서의 성능은 추가 연구 필요.
특정 KWT 모델에 국한된 연구이므로 다른 Transformer 모델에 대한 일반화는 추가 실험 필요.
👍