Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

KAN-SAs: Efficient Acceleration of Kolmogorov-Arnold Networks on Systolic Arrays

Created by
  • Haebom
Category
Empty

저자

Sohaib Errabii (TARAN), Olivier Sentieys (TARAN), Marcello Traiola (TARAN)

개요

Kolmogorov-Arnold Networks (KANs)는 기존 Deep Neural Networks (DNNs)보다 매개변수 효율성과 설명 가능성이 향상될 것으로 기대되며, 학습 가능한 비선형 활성 함수(스플라인으로 매개변수화)를 사용합니다. 본 연구에서는 Systolic Array (SA) 기반 아키텍처를 사용하여 KAN 추론을 가속화하는 방안을 모색합니다. SA는 KAN 추론의 일부를 가속화할 수 있지만, 활용률이 30%로 제한됩니다. 따라서 본 연구에서는 B-스플라인의 고유한 특성을 활용하여 효율적인 KAN 추론을 가능하게 하는 새로운 SA 기반 가속기인 KAN-SA를 제안합니다. KAN-SA는 비재귀적 B-스플라인 구현과 KAN 희소성을 활용하여 기존 SA를 개선합니다. 28nm FD-SOI 기술 기반 하드웨어 합성을 통해 KAN-SA는 등가 면적의 기존 SA에 비해 최대 100% SA 활용률과 최대 50% 클럭 사이클 감소를 달성합니다.

시사점, 한계점

SA 아키텍처를 사용하여 KAN 추론을 가속화할 수 있습니다.
기존 SA의 낮은 활용률(30%) 문제를 해결하기 위해 KAN-SA 가속기를 제안합니다.
KAN-SA는 비재귀적 B-스플라인 구현과 KAN 희소성을 활용합니다.
KAN-SA는 기존 SA에 비해 SA 활용률과 클럭 사이클을 향상시킵니다.
제안된 방법은 28nm FD-SOI 기술 기반 하드웨어 합성을 통해 검증되었습니다.
다양한 KAN 애플리케이션에서 KAN-SA의 효율성을 평가합니다.
논문의 한계점은 명시되지 않았습니다.
👍