Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Large Language Models Enhanced Hyperbolic Space Recommender Systems

Created by
  • Haebom

저자

Wentao Cheng, Zhida Qin, Zexue Wu, Pengzhan Zhou, Tianyu Huang

개요

본 논문은 추천 시스템에서 대규모 언어 모델(LLM)의 우수한 세계 지식 활용 능력을 활용하면서도, 기존 유클리드 공간 기반 방법의 한계를 극복하기 위해 쌍곡 공간의 기하학적 특성을 활용하는 새로운 모델인 HyperLLM을 제안합니다. HyperLLM은 구조적 및 의미론적 관점에서 계층적 정보를 추출하고 통합하는 모델 독립적 프레임워크입니다. 구조적으로는 LLM을 이용하여 계층적 부모-자식 관계를 갖는 다단계 분류 태그를 생성하고, 대조 학습을 통해 태그-아이템 및 사용자-아이템 상호작용을 학습하고 정렬합니다. 의미론적으로는 메타 최적화 전략을 통해 의미적 임베딩에서 계층적 정보를 추출하고, 의미 공간과 협업 공간 간의 간극을 해소하여 원활하게 통합합니다. 실험 결과, HyperLLM은 기존 쌍곡 공간 및 LLM 기반 추천 시스템보다 40% 이상 성능 향상을 보였으며, 학습 안정성 또한 향상시켰습니다.

시사점, 한계점

시사점:
LLM과 쌍곡 공간을 결합하여 추천 시스템 성능을 크게 향상시킬 수 있음을 보여줌.
구조적 및 의미론적 관점에서 계층적 정보를 효과적으로 추출 및 통합하는 새로운 프레임워크 제시.
추천 시스템의 학습 안정성 향상에 기여.
40% 이상의 성능 향상이라는 실험적 결과 제시.
한계점:
HyperLLM의 모델 독립성이 모든 종류의 LLM과 쌍곡 공간 기반 모델에 적용 가능한지에 대한 추가적인 검증 필요.
메타 최적화 전략의 일반화 가능성 및 다른 유형의 데이터에 대한 적용성 평가 필요.
계층적 정보 추출 및 통합 과정의 복잡성으로 인한 계산 비용 증가 가능성.
특정 데이터셋에 대한 성능 향상이 다른 데이터셋에도 일반화되는지에 대한 추가 연구 필요.
👍