Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
Created by
- Haebom
Category
Empty
저자
Guoxiao Zhang, Yi Wei, Yadong Zhang, Huajian Feng, Qiang Liu
개요
본 논문은 온라인 광고에서 클릭률(CTR) 예측의 정확성을 높이기 위해 대규모 언어 모델(LLM)을 활용한 새로운 접근 방식을 제시합니다. 기존의 방법들이 사용자와 상품의 심층적인 의미 정보를 제대로 포착하지 못하는 한계를 극복하고자, LLM을 통해 사용자의 선호도와 상품의 속성을 세밀하게 분석하여 CTR 예측 모델에 반영합니다. 특히, "Häagen-Dazs' HEAVEN 딸기 라이트 아이스크림"에 대한 사용자의 건강 의식과 고급스러움을 중시하는 선호도와 같은 미묘한 의미 정보까지 고려합니다. 제안된 모델(MSD: Multi-level Deep Semantic Information Infused CTR model via Distillation)은 LLM을 이용하여 추출된 정보를 효율적인 소규모 모델로 증류하여, 효율성과 성능을 모두 고려한 엔드투엔드 학습 및 추론을 가능하게 합니다. 메이투안 스폰서 검색 시스템에서의 A/B 테스트 결과, 제안된 방법이 기존 모델보다 CPM(Cost Per Mile) 및 CTR 모두에서 성능이 뛰어남을 보여줍니다.
시사점, 한계점
•
시사점:
◦
LLM을 활용하여 CTR 예측 모델의 정확도를 향상시킬 수 있음을 실증적으로 보여줌.
◦
사용자와 상품의 심층적인 의미 정보를 효과적으로 모델링하는 새로운 방법 제시.
◦
효율성과 성능을 동시에 고려한 실용적인 모델 설계.
◦
실제 온라인 광고 시스템(메이투안)에서의 A/B 테스트를 통해 실효성 검증.
•
한계점:
◦
LLM 사용으로 인한 높은 계산 비용 및 자원 소모 가능성 (비록 증류를 통해 완화되었지만).
◦
메이투안 시스템에 특화된 모델이므로 다른 플랫폼으로의 일반화 가능성 검증 필요.
◦
LLM의 출력에 대한 신뢰도 및 해석 가능성에 대한 추가적인 연구 필요.
◦
LLM의 편향성이 모델의 성능 및 결과에 미치는 영향에 대한 분석 부족.
