LLMDistill4Ads: Using Cross-Encoders to Distill from LLM Signals for Advertiser Keyphrase Recommendations
Created by
Haebom
Category
Empty
저자
Soumik Dey, Benjamin Braun, Naveen Ravipati, Hansi Wu, Binbin Li
개요
본 논문은 주요 전자상거래 플랫폼에서 판매자의 광고 캠페인 향상을 위해 사용되는 키워드 추천 시스템의 개선을 위한 연구를 제시한다. 특히 클릭 유도 편향을 완화하기 위해 LLM(대규모 언어 모델)을 교사 모델로, 크로스 인코더 어시스턴트 모델을 활용하고, 양방향 인코더 기반 검색(EBR) 학생 모델을 학습하는 증류 프레임워크를 제안한다. 이는 키워드 추천의 정확도를 높이고, 판매자, 검색 시스템, 구매자의 요구를 충족시키는 것을 목표로 한다.
시사점, 한계점
•
시사점:
◦
LLM을 활용하여 키워드 추천 시스템의 성능을 향상시키는 새로운 접근 방식을 제시.
◦
클릭 유도 편향을 완화하여 보다 정확하고 관련성 높은 키워드 추천을 가능하게 함.
◦
전자상거래 플랫폼에서 실제 적용 가능한 프레임워크를 개발하고, 그 효과를 입증.
•
한계점:
◦
구체적인 성능 지표 및 비교 대상 모델에 대한 정보가 부족함.
◦
LLM의 사용으로 인한 계산 비용 및 자원 소모에 대한 고려가 필요함.
◦
다양한 판매자, 검색 시스템, 구매자의 요구를 얼마나 효과적으로 반영하는지에 대한 추가적인 연구가 필요함.
