본 논문은 자원 제약이 있는 에지 디바이스에서 Mamba2와 같은 상태 공간 모델(SSM)의 배포 효율성을 높이기 위해 FPGA 기반의 전용 가속기인 FastMamba를 제안합니다. FastMamba는 Hadamard 변환을 이용한 8비트 양자화, 하드웨어 친화적인 2의 제곱수 양자화 프레임워크, 비선형 함수의 1차 선형 근사화 등의 기법을 통해 Mamba2의 연산 효율을 향상시키고 하드웨어 복잡성을 줄입니다. 병렬 벡터 처리 유닛, 파이프라인 실행 데이터 흐름, 효율적인 SSM 비선형 근사 유닛을 통합하여 성능을 향상시켰으며, Xilinx VC709 FPGA 상에서 Mamba2-130M 입력 채우기 작업에서 CPU 대비 68.80배, GPU 대비 8.90배의 속도 향상을 달성하였고, Mamba2-2.7B 출력 디코딩 실험에서는 RTX 3090 GPU 대비 6배 높은 에너지 효율을 달성했습니다.
