본 논문은 에너지 효율적이고 정확도가 높은 AI를 추구하는 다중 비트 스파이킹 신경망(SNN) 연구에 초점을 맞추고 있습니다. 기존 다중 비트 SNN은 비트 수 증가에 따른 메모리 및 계산 요구량 증가로 인해 성능 향상이 비례하지 않는 문제점을 가지고 있습니다. 본 논문에서는 계층별 중요도 차이에 대한 통찰력을 바탕으로, 직접 학습되는 SNN에 대한 적응적 비트 할당 전략을 제시하여 메모리 및 계산 자원을 세밀하게 계층별로 할당합니다. 가중치와 스파이크의 시간적 길이와 비트 너비를 매개변수화하여 기울기를 통해 학습 및 제어 가능하게 함으로써 SNN의 효율성과 정확도를 향상시킵니다. 변화하는 비트 너비와 시간적 길이로 인한 문제를 해결하기 위해 다양한 시간적 길이를 처리하고, 시간적 길이에 대한 기울기 도출을 가능하게 하며, 스파이크 양자화에 더 적합한 개선된 스파이킹 뉴런을 제안합니다. 또한, 학습 가능한 비트 너비의 스텝 크기 불일치 문제를 이론적으로 공식화하고, 이로 인한 심각한 양자화 오류를 완화하기 위한 스텝 크기 갱신 메커니즘을 제안합니다. CIFAR, ImageNet, CIFAR-DVS, DVS-GESTURE, SHD 등 다양한 데이터셋에 대한 실험을 통해 제안된 방법이 전체 메모리 및 계산 비용을 줄이면서 정확도를 높일 수 있음을 보여줍니다. 특히, 제안된 SEWResNet-34는 ImageNet에서 최첨단 기준 모델보다 2.69% 높은 정확도와 4.16배 낮은 비트 예산을 달성합니다. 본 연구 결과는 공개될 예정입니다.
