본 논문은 대규모 언어 모델(LLM) 기반 추천 시스템에서 항목 토큰화의 한계를 극복하기 위해 UniTok이라는 통합 항목 토큰화 프레임워크를 제안합니다. UniTok은 여러 항목 도메인에서 확장 가능한 토큰화를 가능하게 하고, 도메인별 정보를 유지하면서도 모델의 일반화 능력을 향상시키는 것을 목표로 합니다. 이를 위해, 공유 인코더, 도메인별 전문가, 공유 전문가로 구성된 MoE(Mixture of Experts) 아키텍처와 상호 정보 보정 메커니즘을 활용합니다. 다양한 실제 데이터셋에 대한 실험을 통해 UniTok은 기존 방법 대비 높은 성능 향상, 아키텍처의 타당성 입증, 그리고 도메인별 재학습 없이도 다양한 도메인에서 강력한 성능을 보이는 것을 확인했습니다.
