Collaboration of Large Language Models and Small Recommendation Models for Device-Cloud Recommendation
작성자
- Haebom
카테고리
비어 있음
저자
Zheqi Lv, Tianyu Zhan, Wenjie Wang, Xinyu Lin, Shengyu Zhang, Wenqiao Zhang, Jiwei Li, Kun Kuang, Fei Wu
개요
본 논문은 대규모 언어 모델(LLM) 기반 추천 시스템(LLM4Rec)의 실시간 사용자 선호도 반영의 어려움을 해결하기 위해, 소규모 추천 모델(SRM)과의 협업을 기반으로 하는 Device-Cloud LLM-SRM Collaborative Recommendation Framework (LSC4Rec)을 제안한다. LSC4Rec은 클라우드 상의 LLM과 디바이스 상의 SRM을 협력적으로 활용하여, LLM의 우수한 추천 성능과 SRM의 실시간 데이터 처리 및 효율성을 결합한다. 세 가지 전략(협업 학습, 협업 추론, 지능형 요청)을 통해 LLM은 후보 목록 생성 및 초기 순위 지정을 담당하고, SRM은 실시간 데이터를 활용하여 재순위 지정 및 최종 결과 생성에 기여한다. 실험 결과를 통해 각 전략의 효과를 검증한다.
시사점, 한계점
•
시사점:
◦
LLM4Rec의 실시간성 문제를 LLM과 SRM의 협업을 통해 효과적으로 해결하는 새로운 프레임워크 제시
◦
클라우드와 에지 컴퓨팅의 장점을 결합하여 추천 시스템의 실용성 향상
◦
협업 학습, 협업 추론, 지능형 요청 전략을 통해 LLM과 SRM의 시너지 효과 극대화
◦
실험을 통해 제안된 프레임워크의 효과를 검증
•
한계점:
◦
제안된 프레임워크의 성능은 LLM과 SRM의 선택 및 하이퍼파라미터 튜닝에 크게 의존할 수 있음. 최적의 모델 선택 및 파라미터 조정에 대한 추가적인 연구가 필요함.
◦
실제 다양한 환경 및 데이터셋에 대한 일반화 성능 평가가 부족할 수 있음. 더욱 광범위한 실험이 필요함.
◦
에너지 소비 및 지연 시간과 같은 실제 구현 시 발생할 수 있는 문제에 대한 고찰이 부족할 수 있음. 실제 시스템 구현 및 성능 평가가 필요함.
