Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

RASTP: Representation-Aware Semantic Token Pruning for Generative Recommendation with Semantic Identifiers

Created by
  • Haebom
Category
Empty

저자

Tianyu Zhan, Kairui Fu, Zheqi Lv, Shengyu Zhang

개요

RASTP는 생성 추천 시스템에서 항목을 나타내는 Semantic Identifier (SID) 토큰 시퀀스 길이를 줄이기 위해 개발되었다. RASTP는 표현 크기(representation magnitude)를 통해 측정된 의미론적 중요성과 누적 어텐션 가중치에서 파생된 어텐션 중심성을 결합하여 토큰 중요도를 평가하고, 덜 유용한 토큰을 제거한다. Amazon 데이터셋 실험 결과, RASTP는 훈련 시간을 26.7% 단축시키면서 추천 성능을 유지하거나 소폭 향상시켰다.

시사점, 한계점

시사점:
입력 시퀀스 길이를 줄여 계산 복잡성과 메모리 소비를 줄임.
훈련 시간 단축 및 추천 성능 유지 또는 개선.
실제 Amazon 데이터셋을 사용한 실험으로 실용성 입증.
오픈 소스 코드 제공.
한계점:
구체적인 성능 향상 정도에 대한 자세한 정보 부족.
다른 추천 시스템과의 비교 결과에 대한 정보 부족.
제안된 방법의 일반화 가능성에 대한 추가 연구 필요.
👍