본 논문은 시퀀셜 추천(SR)에서 트랜스포머 기반 모델의 복잡성 문제를 해결하기 위해 새로운 다중 헤드 잠재 Mamba 아키텍처를 제안합니다. 트랜스포머의 자기 주의 메커니즘은 시퀀스 길이에 따라 제곱적으로 복잡도가 증가하는데, 이는 대규모 추천 시스템에서 큰 문제입니다. 제안된 Mamba 아키텍처는 저차원 Mamba 레이어와 완전 연결 레이어, 위치 인코딩을 사용하여 각 잠재 공간 내에서 과거 및 아이템 정보를 동시에 포착합니다. 이를 통해 대규모 매개변수로 확장이 가능하며, 대규모 언어 모델(LLM)을 통합하고 미세 조정하여 다중 도메인 추천으로 확장할 수 있습니다. 공개 데이터셋에 대한 실험을 통해 제안된 방법이 기존 최고 성능의 시퀀셜 추천 모델보다 적은 매개변수와 훈련 시간으로 더 나은 성능을 보임을 보여줍니다.
