RQ-GMM: Residual Quantized Gaussian Mixture Model for Multimodal Semantic Discretization in CTR Prediction

Created by

Haebom

저자

Ziye Tong, Jiahao Liu, Weimin Zhang, Hongji Ruan, Derick Tang, Zhanpeng Zeng, Qinsong Zeng, Peng Zhang, Tun Lu, Ning Gu

💡 개요

본 논문은 클릭률(CTR) 예측에서 멀티모달 콘텐츠의 중요성을 인식하고, 기존 임베딩의 단점을 극복하기 위해 잔차 양자화 가우시안 혼합 모델(RQ-GMM)을 제안합니다. RQ-GMM은 임베딩을 확률론적으로 이산화하여 코드북 활용도, 재구성 정확도, 의미론적 분별력을 향상시킵니다. 실제 대규모 플랫폼에서의 실험 결과, 기존 방법 대비 상당한 CTR 예측 성능 향상을 입증했습니다.

🔑 시사점 및 한계

•

멀티모달 임베딩의 통계적 구조를 확률 모델링으로 효과적으로 포착하여 이산화 품질을 높일 수 있습니다.

•

제안된 RQ-GMM은 기존 방법론의 코드북 활용, 재구성 정확도, 의미론적 분별력 문제를 해결하여 CTR 예측 성능을 크게 향상시킵니다.

•

대규모 실제 서비스에 성공적으로 적용되어 수억 명의 사용자에게 일일 추천 서비스에 기여하고 있습니다.

•

이산화 과정에서의 추가적인 계산 복잡성이나 특정 임베딩 분포에 대한 민감성 등은 추가적인 연구가 필요할 수 있습니다.

PDF 보기

Made with Slashpage