본 논문은 이벤트 기반 스파이킹 연산을 통해 에너지 효율적인 대안으로 부상하고 있는 스파이킹 신경망(SNN)의 문제점을 해결하고자 한다. 특히, 기존 SNN 백본(Spikformer, SEW ResNet 등)의 잔차 연결 구조로 인해 발생하는 비-스파이크 연산(정수-부동 소수점 곱셈) 문제를 분석하고, 생물학적으로 타당한 방식으로 MS 잔차 연결과 셀프 어텐션을 통합한 Spikingformer를 제안한다. Spikingformer는 글로벌 모델링 능력을 유지하면서 비-스파이크 연산 문제를 해결하며, 대규모 정적 이미지, 신경 형태 데이터, 자연어 처리 등 13개의 다양한 데이터셋에서 그 효과와 보편성을 입증한다.
